El director ejecutivo de Meta, Mark Zuckerberg, accedió a permitir que los menores accedieran a compañeros de chat de inteligencia artificial (AI chatbots) de los cuales el personal de seguridad advirtió que eran capaces de mantener interacciones sexuales, según documentos internos de Meta presentados en una demanda ante un tribunal de Nuevo México y publicados este lunes.
Contenido del artículo:
- Documentos filtrados revelan la verdad
- Advertencias del personal que fueron ignoradas
- Directrices de Zuckerberg: la libertad antes que la seguridad
- Objeciones de los altos cargos
- Respuesta de la empresa y repercusiones
- Preguntas frecuentes
Documentos filtrados revelan la verdad
La demanda, presentada por el fiscal general del estado Raúl Torrez y cuyo juicio está programado para el próximo mes, afirma que Meta “no logró detener la marea de material sexual dañino y propuestas sexuales dirigidas a los niños” en Facebook e Instagram. Los documentos muestran un conflicto interno entre los equipos de seguridad, que buscaban protección, y la alta dirección, que presionaba por la expansión y el compromiso de los usuarios.
Advertencias del personal que fueron ignoradas
En las comunicaciones, algunos empleados de seguridad de Meta expresaron objeciones a que la empresa estuviera construyendo chatbots diseñados para la compañía, incluidas interacciones sexuales y románticas con usuarios. Ravi Sinha, jefe de políticas de seguridad infantil de Meta, escribió en enero de 2024: «No creo que la creación y comercialización de un producto que genera inteligencia artificial romántica para menores de 18 años por parte de adultos sea recomendable o defendible». Antigone Davis, jefa global de seguridad, coincidió en que se debía presionar para evitar que los adultos crearan compañeros románticos para menores, ya que esto “sexualiza a los menores”.
Directrices de Zuckerberg: la libertad antes que la seguridad
Según un mensaje de febrero de 2024, un empleado (cuyo nombre fue omitido) relató que Zuckerberg creía que los compañeros de inteligencia artificial debían tener prohibido participar en conversaciones sexuales “explícitas” al menos con los adolescentes más jóvenes. Sin embargo, un resumen de una reunión celebrada el 20 de febrero de 2024 indicó que el director ejecutivo consideraba que “la narrativa debía centrarse en… los principios generales de elección y no censura”, que Meta debía ser “menos restrictiva de lo sugerido” y que quería “permitir a los adultos participar en conversaciones más audaces sobre temas como el sexo”.
Otros mensajes señalan que Zuckerberg se negó a crear controles parentales para los chatbots y que los empleados estaban trabajando en “chatbots románticos” que se permitirían para usuarios menores de edad.
Objeciones de los altos cargos
Incluso Nick Clegg, quien fuera jefe de asuntos globales de Meta, expresó en un correo electrónico su convicción de que el enfoque de Meta hacia los compañeros de inteligencia artificial con fines sexuales era “imprudente”. Clegg se preguntó: «¿Es esto realmente lo que queremos que definan estos productos (por no mencionar la inevitable reacción social que seguirá)?».
Respuesta de la empresa y repercusiones
El portavoz de Meta, Andy Stone, afirmó que la representación del estado es inexacta y se basó en información selectiva. Añadió que los documentos muestran la directiva de Zuckerberg de que la inteligencia artificial explícita no debe estar disponible para los usuarios más jóvenes. Sin embargo, tras los informes de prensa que revelaron conversaciones inapropiadas, Meta anunció la semana pasada la eliminación temporal total del acceso de los adolescentes a los compañeros de inteligencia artificial.
Preguntas frecuentes
Pregunta: ¿De qué se acusa a Mark Zuckerberg?
Respuesta: Los documentos lo acusan de negarse a establecer restricciones de seguridad adecuadas en los chatbots, lo que expuso a los menores a contenido sexual y romántico inapropiado.
Pregunta: ¿Están disponibles estos bots actualmente?
Respuesta: Meta suspendió recientemente el acceso de los adolescentes a estos chatbots hasta que sean revisados y se desarrolle una nueva versión más segura.
Pregunta: ¿Quién está detrás de esta demanda?
Respuesta: El fiscal general del estado estadounidense de Nuevo México es quien presentó la demanda, basándose en documentos internos obtenidos.
