En un momento en el que Elon Musk prometió que el chatbot «Grok» sería una alternativa «en busca de la verdad suprema» y «antiwoke», testimonios impactantes de empleados actuales y anteriores de xAI revelan una realidad completamente diferente. Informaron que se enfrentaron regularmente a material sexualmente explícito, incluido contenido generado por inteligencia artificial relacionado con el abuso sexual infantil, lo que plantea serias dudas sobre la seguridad de la plataforma.
Contenidos del artículo:
- Introducción: de la verdad suprema a la realidad oscura
- Testimonios filtrados: «Tienes que tener la piel dura»
- El problema del contenido sexual: una delgada línea entre la libertad y el daño
- Aumento preocupante de material de abuso infantil creado por inteligencia artificial
- Caos en xAI: despidos y un liderazgo inesperado
- La ausencia de informes oficiales genera preocupación
- Conclusión: la responsabilidad de las plataformas ante el contenido dañino
- Preguntas frecuentes
Introducción: de la verdad suprema a la realidad oscura
Cuando Elon Musk entró en el mundo de la inteligencia artificial, prometió aprovechar la tecnología para crear una alternativa a ChatGPT. Sin embargo, en su lugar, parece que su empresa xAI ha convertido el chatbot interno «Grok» en una herramienta para conversaciones cargadas de contenido sexual. Y ahora, los usuarios de xAI parecen estar utilizando la plataforma para las peores cosas imaginables.
Testimonios filtrados: «Tienes que tener la piel dura»
Doce empleados actuales y anteriores dijeron a «Business Insider» que se enfrentaron regularmente a material sexualmente explícito, incluido contenido generado por inteligencia artificial relacionado con el abuso sexual infantil (CSAM), en su trabajo para la empresa. Un exempleado, que renunció debido a la gran cantidad de material perturbador con el que se encontró, afirmó: «Tienes que tener la piel dura para trabajar aquí, y aun así no te sientes bien». Otro exempleado dijo: «Literalmente me dio náuseas».
El problema del contenido sexual: una delgada línea entre la libertad y el daño
Si bien la plataforma no es la única que lidia con la afluencia de material infractor, el enfoque de xAI en permitir contenido sexual en general puede empeorar la situación. Riana Pfefferkorn, investigadora de políticas tecnológicas en la Universidad de Stanford, señaló: «Si no trazas una línea roja estricta ante cualquier cosa perturbadora, te enfrentarás a un problema mucho más complejo con más zonas grises». Por su parte, Fallon McNulty, directora ejecutiva del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), añadió: «Si una empresa crea un modelo que permite la desnudez o el contenido sexual explícito, esto es mucho más sutil que un modelo con reglas estrictas. Tienen que tomar medidas muy sólidas para que nada relacionado con los niños pueda filtrarse bajo ningún concepto».
Aumento preocupante de material de abuso infantil creado por inteligencia artificial
El material de abuso sexual infantil generado por inteligencia artificial es un problema que afecta a toda la industria. El Departamento de Justicia de EE. UU. ya ha comenzado a perseguir a las personas que utilizan herramientas de inteligencia artificial para crear contenido problemático relacionado con menores. Las cifras cuentan una historia alarmante: el NCMEC recibió más de 440 000 informes de material de abuso sexual infantil generado por inteligencia artificial hasta el 30 de junio, en comparación con menos de 6 000 informes durante el mismo período del año anterior.
Caos en xAI: despidos y un liderazgo inesperado
xAI sufre de caos y controversia. La compañía despidió a 500 trabajadores, incluidos empleados de alto nivel y responsables de la clasificación de datos, a principios de este mes. El departamento encargado de entrenar a «Grok» está dirigido actualmente por un estudiante universitario que se graduó de la escuela secundaria en 2023, lo que plantea dudas sobre la experiencia y la supervisión dentro de la empresa.
La ausencia de informes oficiales genera preocupación
Los competidores de xAI, como OpenAI y Anthropic, han informado de casos de material de abuso sexual infantil generado por inteligencia artificial al NCMEC. Sin embargo, según la organización, xAI no presentó ni un solo informe para 2024, a pesar de que el NCMEC recibió un total de 67 000 informes relacionados con inteligencia artificial generativa el año pasado. Esta falta de notificación genera una gran preocupación sobre el compromiso de la empresa para combatir estos materiales peligrosos.
Conclusión: la responsabilidad de las plataformas ante el contenido dañino
Estas filtraciones ponen de relieve la enorme responsabilidad que recae sobre las empresas de inteligencia artificial a la hora de supervisar sus plataformas y proteger a los usuarios, especialmente a los niños. La promesa de una libertad de expresión absoluta no puede ir en detrimento de la seguridad. A medida que la tecnología de inteligencia artificial continúa evolucionando, el compromiso de la industria con la ética y la responsabilidad social debe evolucionar con ella, o nos arriesgamos a crear herramientas poderosas que puedan causar un daño irreparable.
Preguntas frecuentes
P1: ¿Qué es «Grok»?
R1: Es un chatbot impulsado por inteligencia artificial desarrollado por xAI, propiedad de Elon Musk. Se comercializó como una alternativa menos restrictiva a otros chatbots como ChatGPT.
P2: ¿Significa esto que «Grok» está diseñado para crear contenido dañino?
R2: No necesariamente. Sin embargo, el enfoque más indulgente de la empresa hacia el contenido sexual en general puede crear lagunas y un entorno que puede ser explotado por usuarios con malas intenciones para generar material ilegal y peligroso.
P3: ¿Cuál es la responsabilidad legal de xAI?
R3: Las empresas tecnológicas tienen la responsabilidad legal y ética de evitar que sus plataformas se utilicen en actividades ilegales, especialmente aquellas relacionadas con el daño a los menores. No informar sobre tales casos puede exponer a la empresa a una grave rendición de cuentas legal.
