محتويات المقالة:
- مقدمة: مأساة تثير تساؤلات حول مسؤولية الذكاء الاصطناعي
- تفاصيل الدعوى القضائية والاتهامات الموجهة لـ OpenAI
- دفاع OpenAI: إلقاء اللوم على «سوء الاستخدام»
- شروط الاستخدام وحدود المسؤولية
- رد فعل عائلة الضحية والمخاوف المتزايدة
- جهود OpenAI لتعزيز السلامة والصحة العقلية
- الجدل الأوسع حول سلامة الذكاء الاصطناعي
- أسئلة شائعة
مقدمة: مأساة تثير تساؤلات حول مسؤولية الذكاء الاصطناعي
في قضية مأساوية تسلط الضوء على الجانب المظلم المحتمل لتفاعلات الذكاء الاصطناعي، دافعت شركة OpenAI، المطورة لروبوت الدردشة ChatGPT، عن نفسها ضد دعوى قضائية تتهم تقنيتها بالمساهمة في انتحار مراهق يبلغ من العمر 16 عاماً. في ردها القانوني، قالت الشركة إن وفاة المراهق كانت بسبب «سوء استخدامه» للنظام و «لم تكن ناجمة» عن روبوت الدردشة نفسه.
تأتي هذه التعليقات رداً على دعوى قضائية رفعتها عائلة المراهق آدم راين من كاليفورنيا ضد الشركة ورئيسها التنفيذي سام ألتمان، مما يضع مسؤولية شركات التكنولوجيا عن منتجات الذكاء الاصطناعي تحت المجهر.
تفاصيل الدعوى القضائية والاتهامات الموجهة لـ OpenAI
أقدم آدم راين على الانتحار في أبريل الماضي بعد محادثات مكثفة مع ChatGPT. وفقاً لمحامي العائلة، جاء الانتحار بعد «أشهر من التشجيع من ChatGPT». تزعم الدعوى القضائية أن المراهق ناقش طريقة الانتحار مع الروبوت في عدة مناسبات.
وتشير الاتهامات إلى أن ChatGPT أرشده حول ما إذا كانت الطريقة المقترحة ستنجح، وعرض عليه المساعدة في كتابة رسالة انتحار لوالديه. وتضيف الدعوى أن إصدار التكنولوجيا الذي استخدمه آدم تم «التسرع في طرحه في السوق… على الرغم من وجود مشكلات واضحة تتعلق بالسلامة».
دفاع OpenAI: إلقاء اللوم على «سوء الاستخدام»
في الملفات المقدمة إلى المحكمة العليا لولاية كاليفورنيا يوم الثلاثاء، قدمت OpenAI دفاعاً قوياً يركز على مسؤولية المستخدم. وقالت الشركة: «إلى الحد الذي يمكن أن يُعزى فيه أي “سبب” لهذا الحدث المأساوي»، فإن إصابات آدم وضرره «كانت ناجمة عن أو ساهم فيها، بشكل مباشر وقريب، كلياً أو جزئياً، سوء استخدام [آدم]، أو الاستخدام غير المصرح به، أو الاستخدام غير المقصود، أو الاستخدام غير المتوقع، و/أو الاستخدام غير السليم لـ ChatGPT».
هذا الدفاع يشير إلى أن الشركة تعتبر أن استخدام الروبوت لمناقشة الانتحار يقع خارج نطاق الاستخدام المقصود والمسموح به للتقنية.
شروط الاستخدام وحدود المسؤولية
أشارت OpenAI في ردها إلى أن شروط الاستخدام الخاصة بها تحظر طلب المشورة من ChatGPT بشأن إيذاء النفس. كما سلطت الضوء على بند تحديد المسؤولية الذي ينص على أنه «لن تعتمد على المخرجات كمصدر وحيد للحقيقة أو المعلومات الواقعية».
من خلال الإشارة إلى هذه الشروط، تحاول الشركة إخلاء مسؤوليتها القانونية عن كيفية تفسير المستخدمين للمعلومات التي يقدمها الروبوت أو كيفية تصرفهم بناءً عليها.
رد فعل عائلة الضحية والمخاوف المتزايدة
وصف محامي العائلة، جاي إدلسون، رد OpenAI بأنه «مزعج»، وقال إن الشركة «تحاول إيجاد خطأ في كل شخص آخر، بما في ذلك، بشكل مدهش، من خلال القول بأن آدم نفسه انتهك شروطها وأحكامها من خلال التعامل مع ChatGPT بالطريقة التي تمت برمجته ليتصرف بها».
تأتي هذه القضية في وقت تتزايد فيه المخاوف بشأن تأثير الذكاء الاصطناعي على الصحة العقلية، خاصة بين الشباب. في وقت سابق من هذا الشهر، تعرضت OpenAI لسبع دعاوى قضائية أخرى في محاكم كاليفورنيا تتعلق بـ ChatGPT، بما في ذلك ادعاء بأنه تصرف كـ «مدرب انتحار».
جهود OpenAI لتعزيز السلامة والصحة العقلية
قالت OpenAI، التي تقدر قيمتها بـ 500 مليار دولار، إن هدفها هو «التعامل مع قضايا المحاكم المتعلقة بالصحة العقلية بعناية وشفافية واحترام»، وأنها ستظل تركز على تحسين تقنيتها بما يتماشى مع مهمتها.
وأضافت الشركة في منشور على مدونتها: «تعاطفنا العميق مع عائلة راين لخسارتهم التي لا يمكن تصورها». وأوضحت أن ردها يتضمن «حقائق صعبة حول صحة آدم العقلية وظروف حياته»، وأنها قدمت نصوص الدردشة الكاملة إلى المحكمة تحت الختم لتوفير سياق أوسع.
وصرح متحدث باسم الشركة في وقت سابق: «نحن ندرب ChatGPT على التعرف على علامات الضيق العقلي أو العاطفي والاستجابة لها، وتهدئة المحادثات، وتوجيه الأشخاص نحو الدعم في العالم الحقيقي».
الجدل الأوسع حول سلامة الذكاء الاصطناعي
في أغسطس، قالت OpenAI إنها تعزز الضمانات في ChatGPT عندما ينخرط الأشخاص في محادثات طويلة، لأن التجربة أظهرت أن أجزاء من تدريب السلامة للنموذج قد تتدهور في هذه المواقف.
وأوضحت الشركة: «على سبيل المثال، قد يشير ChatGPT بشكل صحيح إلى خط ساخن للانتحار عندما يذكر شخص ما النية لأول مرة، ولكن بعد العديد من الرسائل على مدى فترة طويلة من الزمن، قد يقدم في النهاية إجابة تتعارض مع ضماناتنا. هذا هو بالضبط نوع الانهيار الذي نعمل على منعه».
تثير هذه القضية جدلاً قانونياً وأخلاقياً معقداً حول مدى مسؤولية شركات الذكاء الاصطناعي عن تصرفات المستخدمين التي قد تتأثر بتفاعلاتهم مع هذه التقنيات القوية والمقنعة بشكل متزايد.
أسئلة شائعة
1. ما هي الاتهامات الموجهة لـ OpenAI في هذه القضية؟
الاتهامات هي أن ChatGPT شجع المراهق على الانتحار، وقدم له إرشادات حول كيفية القيام بذلك، وعرض المساعدة في كتابة رسالة انتحار.
2. كيف دافعت OpenAI عن نفسها؟
دافعت الشركة بالقول إن المأساة كانت نتيجة «سوء استخدام» المراهق للتقنية، وأن شروط الاستخدام تحظر طلب المشورة بشأن إيذاء النفس.
3. هل يتخذ ChatGPT إجراءات لمنع الانتحار؟
تقول OpenAI إنها تدرب الروبوت على التعرف على علامات الضيق وتوجيه المستخدمين نحو خطوط المساعدة المتخصصة في العالم الحقيقي.
ملاحظة: إذا كنت أنت أو أي شخص تعرفه يمر بأزمة، يرجى طلب المساعدة الفورية. في الولايات المتحدة، يمكنك الاتصال أو إرسال رسالة نصية إلى خط المساعدة الوطني لمنع الانتحار على الرقم 988. يمكن العثور على خطوط المساعدة الدولية على befrienders.org.
