En un caso que generó un amplio debate sobre los riesgos del “compañero de inteligencia artificial”, Google y Character.AI acordaron resolver los litigios legales con las familias afectadas. El caso central gira en torno a la muerte de un adolescente cuya interacción con un chatbot supuestamente contribuyó a su muerte por suicidio, lo que abre la puerta a debates más profundos sobre la responsabilidad de las empresas tecnológicas.
محتويات المقالة:
- مقدمة
- تفاصيل التسوية القانونية
- قضية ميغان غارسيا وسيويل سيتزر
- تدابير السلامة الجديدة
- دور جوجل وصفقة الترخيص
- التداعيات الأوسع على الصناعة
- أسئلة شائعة
مقدمة
Las empresas Google y “Character.AI” resolverán los litigios con las familias que presentaron demandas contra ambas compañías debido a los daños sufridos por menores, incluidos casos de suicidio, presuntamente causados por chatbots de inteligencia artificial. Según los documentos judiciales presentados esta semana, las familias y las empresas acordaron trabajar en los términos del acuerdo.
تفاصيل التسوية القانونية
Uno de los expedientes judiciales indicó: “Las partes han llegado a un acuerdo preliminar mediado para resolver todas las reclamaciones entre ellas… Y las partes solicitan suspender este asunto hasta que puedan redactar, finalizar y ejecutar los documentos formales de acuerdo”. Los acuerdos de conciliación también surgieron esta semana por parte de familias en Colorado, Texas y Nueva York, y los detalles financieros aún no se han revelado.
قضية ميغان غارسيا وسيويل سيتزر
En un caso destacado, la demandante Megan Garcia presentó una demanda contra Google y “Character.AI” tras la muerte de su hijo por suicidio. La demanda alega que el chatbot de “Character.AI” mantuvo interacciones perjudiciales con el hijo de 14 años de la demandante, Sewell Setzer III, y acusa negligencia, homicidio culposo, prácticas comerciales engañosas y responsabilidad por productos defectuosos.
تدابير السلامة الجديدة
Las empresas de este sector enfrentan un desafío cada vez mayor para abordar las posibles consecuencias perjudiciales de la tecnología. Las familias han presentado una ola de demandas relacionadas con casos de suicidio y muertes de personas que recurrieron a estos productos en busca de compañía y terapia. En octubre, “Character.AI” anunció que prohibiría a los usuarios menores de 18 años realizar chats de formato libre, incluidas conversaciones románticas y terapéuticas, con sus chatbots.
دور جوجل وصفقة الترخيص
En agosto de 2024, Google acordó un acuerdo de licencia por valor de 2700 millones de dólares y contrató a los fundadores de “Character.AI”, Noam Shazeer y Daniel De Freitas, quienes trabajaron anteriormente en la empresa de búsqueda y fueron nombrados específicamente en las demandas. Shazeer y De Freitas se unieron a la unidad de inteligencia artificial DeepMind de Google.
التداعيات الأوسع على الصناعة
La tecnología ha evolucionado rápidamente desde los chats de texto hasta imágenes, vídeos sofisticados y personajes que responden a simples peticiones humanas. Esta evolución impone una presión enorme sobre los legisladores y las empresas para garantizar que estas herramientas no se conviertan en un sustituto peligroso de las relaciones humanas reales o de la terapia psicológica profesional, especialmente para los grupos vulnerables como los menores.
أسئلة شائعة
ما هو سبب الدعوى القضائية ضد كاراكتر أي آي؟
الإجابة: تتهم الدعوى الشركة بالإهمال والمسؤولية عن وفاة مراهق انتحر بعد تعلقه عاطفياً بروبوت دردشة، وتدعي أن التطبيق لم يوفر حماية كافية للقاصرين.
كيف ردت الشركة على هذه المخاوف؟
الإجابة: أعلنت كاراكتر أي آي عن حظر المحادثات الرومانسية والعلاجية للمستخدمين تحت سن 18 عاماً، بالإضافة إلى تعزيز ميزات الأمان.
ما علاقة جوجل بالقضية؟
الإجابة: جوجل أبرمت صفقة ترخيص كبيرة مع كاراكتر أي آي ووظفت مؤسسيها، مما جعلها طرفاً في التدقيق القانوني حول مسؤولية تطوير هذه التقنيات.
