أعلنت شركة «أوبن إي آي» يوم الخميس عن إطلاق ميزة أمان جديدة اختيارية لمستخدمي روبوت المحادثة الشهير «تشات جي بي تي» تُعرف باسم «جهة الاتصال الموثوقة». تتيح هذه الميزة للمستخدمين البالغين تحديد شخص معين ليتم إشعاره في حال اكتشف الذكاء الاصطناعي أي محادثات تتعلق بإيذاء النفس أو الانتحار. وقد صُممت هذه الميزة، التي كشفت عنها الشركة لأول مرة في منشور عبر مدونتها في شهر فبراير الماضي حول جهودها في مجال السلامة والصحة النفسية، لتكون بمثابة جسر يربط بين التفاعل الرقمي مع الذكاء الاصطناعي والدعم البشري الحقيقي في العالم الواقعي خلال لحظات الأزمات النفسية الخانقة، وتأتي هذه الخطوة في وقت تتزايد فيه التساؤلات حول التأثير النفسي للذكاء الاصطناعي على الفئات الهشة.

كيف تعمل آلية التنبيه وحماية الخصوصية؟

بموجب النظام الجديد، يمكن للمستخدمين اختيار شخص بالغ، سواء كان أحد أفراد العائلة أو صديقًا مقربًا، ليكون بمثابة جهة الاتصال الموثوقة الخاصة بهم. وعندما ترصد أنظمة المراقبة الآلية في «تشات جي بي تي» محادثة تنطوي على إشارات لإيذاء النفس أو تشكل خطرًا حقيقيًا على السلامة، يتم في البداية إبلاغ المستخدم بأن جهة الاتصال الخاصة به قد تتلقى إشعارًا بذلك، ويتم تشجيعه في الوقت ذاته على التواصل المباشر مع هذا الشخص بنفسه.

ومن المهم الإشارة إلى أن هذا التدخل البشري في عملية المراجعة يعكس إدراك الشركة لخطورة الاعتماد الكلي على الخوارزميات في تقييم الحالات النفسية الحرجة. فالفروق الدقيقة في المحادثات البشرية تتطلب فهمًا عميقًا للسياق والنوايا، حيث يقوم فريق صغير من المراجعين البشريين المدربين في «أوبن إي آي» بفحص المحادثة التي تم الإبلاغ عنها لتقييم الموقف، قبل اتخاذ قرار نهائي بشأن ما إذا كان ينبغي تنبيه جهة الاتصال المحددة عبر البريد الإلكتروني أو الرسائل النصية أو عبر إشعار داخل التطبيق.

ولضمان حماية الخصوصية، يتم تقييد الإشعارات بشكل متعمد وصارم؛ حيث لا يتم مشاركة أي نصوص من المحادثات أو تفاصيل دقيقة حول ما دار بين المستخدم والذكاء الاصطناعي. وبدلاً من ذلك، يُبلغ الشخص الموثوق بأن المستخدم تطرق إلى موضوع إيذاء النفس، ويُطلب منه بلطف التواصل معه للاطمئنان عليه، مرفقًا برابط يحتوي على موارد وإرشادات حول كيفية إدارة مثل هذه الحوارات الحساسة. وفي هذا الصدد، قال الدكتور آرثر إيفانز، الرئيس التنفيذي لجمعية علم النفس الأمريكية، إن هذا النهج المتمثل في «مساعدة الأفراد على تحديد شخص موثوق مسبقًا، مع الحفاظ على استقلاليتهم في الوقت ذاته، يمكن أن يسهل عملية طلب الدعم في العالم الحقيقي عندما تكون الحاجة إليه ماسة للغاية».

استجابة حاسمة للمآسي والدعاوى القضائية

تأتي هذه الميزة الجديدة في وقت تواجه فيه شركة «أوبن إي آي» أكثر من 12 دعوى قضائية تتعلق بسلامة المستهلكين والتأثيرات السلبية لتقنياتها. ففي شهر أغسطس من عام 2025، رفع والدا المراهق آدم راين، البالغ من العمر 16 عامًا، أول دعوى قضائية تتعلق بالقتل الخطأ مباشرة ضد الشركة. وزعمت الدعوى أن روبوت المحادثة لعب دور «المدرب على الانتحار» لابنهما خلال 6 أشهر من المحادثات المستمرة قبل أن ينهي حياته في شهر أبريل من عام 2025. وقد دفعت هذه الدعوى القضائية المأساوية الشركة إلى الإسراع في تقديم أدوات الرقابة الأبوية في شهر سبتمبر من عام 2025، والتي تضمنت إشعارات أمان مخصصة لآباء المستخدمين المراهقين لضمان بيئة رقمية أكثر أمانًا.

وقد أثارت هذه القضايا نقاشات قانونية وأخلاقية واسعة النطاق حول مدى مسؤولية الشركات المطورة للذكاء الاصطناعي عن تصرفات مستخدميها، وما إذا كان ينبغي تصنيف هذه المنصات كمنتجات استهلاكية تخضع لقوانين السلامة الصارمة. إن الضغط المزدوج من قاعات المحاكم والرأي العام يجعل من تبني ميزات الأمان الجديدة ليس مجرد مبادرة طوعية، بل ضرورة للبقاء في سوق يتسم بالتنافسية الشديدة.

وبعيدًا عن الشركة المذكورة، فإن الصناعة بأكملها تخضع لتدقيق متزايد. فقد أقيمت دعوى قضائية حظيت بتغطية إعلامية واسعة في عام 2024 ضد شركة «كاراكتر إي آي»، حيث زُعم أن روبوت الدردشة التابع لها ساهم في انتحار المراهق سيويل سيتزر الثالث، البالغ من العمر 14 عامًا، في ولاية فلوريدا. هذه الحوادث المتتالية دقت ناقوس الخطر في قطاع التكنولوجيا، مما أجبر الشركات على التفكير بجدية في العواقب المميتة المحتملة للتفاعلات غير الخاضعة للرقابة.

الخصوصية والقيود والتحديات المستقبلية

عملت شركة «أوبن إي آي» على تطوير هذه الميزة بالتعاون الوثيق مع مجلسها الخاص بالرفاهية والذكاء الاصطناعي، إلى جانب جمعية علم النفس الأمريكية والشبكة العالمية للأطباء. وأكدت الشركة في منشور عبر مدونتها الرسمية أن هدفها الأساسي يتمثل في ضمان «ألا تكون أنظمة الذكاء الاصطناعي معزولة، بل أن تعمل على تسهيل الروابط مع الدعم الحقيقي والعلاقات والموارد الأساسية في العالم الواقعي».

ومع ذلك، تظل هذه الميزة معتمدة كليًا على اختيار المستخدمين وتفعيلهم لها طواعية، مما يثير تساؤلات جوهرية حول ما إذا كان الأشخاص الأكثر عرضة للخطر سيختارون بالفعل تفعيل هذا الخيار الاستباقي. وكما أشارت منصة «فيوتشرزم» العلمية، فإن الشركة لا تزال لا تقدم تحذيرات صريحة للمستخدمين الجدد بأن الاستخدام المفرط أو الطويل لروبوتات الدردشة قد يؤثر سلبًا على صحتهم النفسية، مما يترك العبء الأكبر على الأفراد أنفسهم للتعرف على المخاطر.

إن التوازن بين تقديم مساحة آمنة للتعبير وبين التدخل في اللحظات الحرجة يشكل معضلة مستمرة للمطورين. ورغم أن الخطوة التي اتخذتها الشركة تمثل تقدمًا ملحوظًا في الاتجاه الصحيح، إلا أن الخبراء يطالبون بالمزيد من الشفافية والتوعية المستمرة. فالاعتماد على الذكاء الاصطناعي كملاذ عاطفي يتطلب بنية تحتية قوية من الدعم المجتمعي، لضمان عدم تحول التكنولوجيا إلى بديل للعلاقات الإنسانية، بل أداة مساعدة تعزز من سلامة المستخدمين.

الأسئلة الشائعة

ما هي ميزة «جهة الاتصال الموثوقة» في تشات جي بي تي؟

هي ميزة أمان اختيارية جديدة تتيح للمستخدمين البالغين تحديد شخص موثوق ليتم إبلاغه في حال رصد الذكاء الاصطناعي محادثات تدل على خطر إيذاء النفس أو الانتحار.

هل تقوم الميزة بمشاركة تفاصيل المحادثات مع الشخص الموثوق؟

لا، لحماية الخصوصية لا يتم مشاركة أي نصوص أو تفاصيل من المحادثة. يقتصر الإشعار على إبلاغ جهة الاتصال بأن المستخدم تطرق لموضوع إيذاء النفس ويشجعهم على التواصل معه مع توفير روابط لموارد الدعم.

ما الذي دفع الشركة لتطوير هذه الميزة؟

تم تطوير الميزة استجابة لمخاوف الصحة النفسية المتزايدة والدعاوى القضائية التي اتهمت منصات الذكاء الاصطناعي بالتأثير السلبي على المستخدمين، بهدف ربط التفاعل الرقمي بالدعم البشري في العالم الحقيقي.

هل تعمل هذه الميزة بشكل تلقائي لجميع المستخدمين؟

لا، الميزة اختيارية بالكامل، وتتطلب من المستخدمين تفعيلها طواعية وتحديد جهة الاتصال بأنفسهم قبل أن تصبح فعالة.