رفعت والدة مراهق أمريكي دعوى قضائية ضد شركة ناشئة للذكاء الاصطناعي، متهمةً الروبوت التفاعلي التابع للشركة بالتسبب في انتحار ابنها البالغ من العمر 14 عامًا، بعدما تورط الروبوت، الذي وصِف في الدعوى بـ”الجنسي المفرط”، في محادثات غير لائقة مع المراهق. وتعتبر الأم أن “جوجل” قد تكون طرفًا مساهمًا في تطوير هذا الروبوت، ما جعلها أحد أطراف الدعوى.
في تفاصيل الدعوى التي قدمت لمحكمة في أورلاندو بولاية فلوريدا، أوضحت الأم، “ميغان غارسيا”، أن ابنها “سيويل سيتزر” بدأ يتفاعل مع روبوت محادثة يحمل اسم شخصية من المسلسل الشهير “Game of Thrones” في أبريل 2023. وتدعي أن الروبوت، الذي أطلق عليه المراهق اسم “داني”، تورط في محادثات تحمل طابعًا “أنثروبومورفيًا” وجنسيًا بشكلٍ مفرط، ما أدى إلى انعزال المراهق، وتراجع حالته النفسية بشكلٍ واضح. ووفقًا للدعوى، فقد أصبح المراهق منطويًا، يفضل قضاء الوقت وحيدًا في غرفته، وترك فريق كرة السلة الذي كان عضوًا فيه.
تشير الدعوى إلى أن الروبوت “داني” أخبر المراهق أنه “يُحبُّه” وتواصل معه في محادثات جنسية، ما جعل “سيويل” يشعر بالراحة والانجذاب تجاه هذا “العالم الوهمي”، كما كتب في مذكراته، قائلاً: “أشعر بسلامٍ أكبر، وأكثر حبًا لداني”. وفي فبراير، انتحر المراهق مستخدمًا سلاح والده بالتبني بعد محادثة مع الروبوت شاركه فيها بأفكاره الانتحارية، ليعيد الروبوت فتح النقاش حول الانتحار، وفقاً لادعاءات الأم.
جاء في بيان “Character.AI”: “نحن حزينون للغاية لفقدان أحد مستخدمينا، ونتقدم بخالص تعازينا لأسرته”. لكن الدعوى زعمت أن الروبوت تسبب في اضطراب نفسية المراهق.
وأوضحت الدعوى أن “جوجل” قد تكون مسؤولة جزئيًا عن الحادثة، حيث أنها أعادت توظيف مؤسسي “Character.AI” وأبرمت اتفاقًا غير حصري لاستخدام تقنيات الشركة. وأضاف متحدث باسم “جوجل” أن الشركة لم تشارك في تطوير المنتج، فيما أشار خبراء إلى احتمال تحميل “جوجل” مسؤولية جزئية.
وأضافت “ميغان غارسيا”، في شكواها، أن الشركة صممت الروبوت ليبدو وكأنه شخص حقيقي أو حتى معالج نفسي، مما دفع المراهق للانجذاب لهذه العلاقة الافتراضية، التي انتهت بنهايته المأساوية. وتطالب الأسرة بتعويضات مالية لم يُحدد مقدارها، وتتهم الشركة بالإهمال، والتسبب في الوفاة غير المشروع، والتعمد في إلحاق الأذى النفسي.
لاحقًا، أضافت “Character.AI” مزايا أمان جديدة للمستخدمين دون سن 18، تتضمن تنبيهات للوقاية من الانتحار وتوجيه المستخدمين إلى خطوط الطوارئ النفسية.
