El generador de videos por inteligencia artificial de Elon Musk se enfrenta a graves acusaciones por haber tomado una «opción deliberada» para crear clips pornográficos de la famosa cantante Taylor Swift sin una solicitud directa, lo que genera un amplio debate sobre el sesgo de género en el diseño de tecnologías de IA y la falta de supervisión efectiva.
Contenido del artículo:
- Introducción: un nuevo escándalo sacude el mundo de la inteligencia artificial
- Opinión de los expertos: «La misoginia no es un accidente, sino un diseño»
- Prueba del modo «Spicy» en Grok Imagine
- Fracaso en la verificación de edad y las nuevas leyes
- No es la primera vez: el historial de Taylor Swift con los deepfakes
- Nuevas legislaciones para combatir el deepfake pornográfico
- Reacciones de las empresas implicadas
- Conclusión: un llamamiento urgente para regular la inteligencia artificial
Introducción: un nuevo escándalo sacude el mundo de la inteligencia artificial
El generador de video por inteligencia artificial de Elon Musk se enfrenta a acusaciones de haber adoptado una «opción deliberada» para crear videos pornográficos de la famosa cantante Taylor Swift sin que se le pidiera explícitamente. Este incidente ha desatado la indignación de expertos y defensores de los derechos de las mujeres, quienes lo ven como una nueva prueba del sesgo de género arraigado en el diseño de ciertas tecnologías de inteligencia artificial. Este tipo de contenido ofensivo, conocido como «deepfake», se ha convertido en un problema urgente que requiere una intervención legislativa y regulatoria firme para proteger a las personas frente a las violaciones digitales.
Opinión de los expertos: «La misoginia no es un accidente, sino un diseño»
Claire McGlynn, profesora de derecho que ayudó a redactar una ley para penalizar los deepfakes pornográficos, declaró: «Esto no es misoginia por accidente, es intencionado por diseño». Añadió que «la producción de este contenido sin una solicitud directa pone de manifiesto el sesgo de género en muchas tecnologías de inteligencia artificial». La profesora McGlynn, de la Universidad de Durham, señaló que «plataformas como X podrían haber evitado que esto sucediera si hubieran querido, pero tomaron la decisión deliberada de no hacerlo».
Esta acusación llega en un momento delicado, en el que aumentan las preocupaciones sobre la capacidad de los modelos de inteligencia artificial para generar contenido dañino y ofensivo. La propia política de uso aceptable de xAI, la empresa desarrolladora de Grok, prohíbe «representar a personas de manera pornográfica», lo que convierte este incidente en una flagrante violación de sus normas anunciadas.
Prueba del modo «Spicy» en Grok Imagine
Según un informe de The Verge, el nuevo modo llamado «spicy» en el generador Grok Imagine «no dudó en arrojar videos completamente desnudos y sin censura» de la estrella internacional sin que se le pidiera crear contenido pornográfico. La redactora de The Verge, Jess Weatherbed, probó el programa introduciendo el siguiente comando: «Taylor Swift celebrando en Coachella con unos chicos».
Al principio, Grok produjo imágenes fijas de Swift con un vestido y un grupo de hombres detrás de ella. Luego, logró animar estas imágenes en clips cortos bajo cuatro configuraciones diferentes: «normal», «divertido», «personalizado» o «spicy» (picante). Al seleccionar el modo «spicy», los resultados fueron impactantes. Weatherbed declaró a BBC News: «Inmediatamente le quitó el vestido, dejándola únicamente en un tanga de flecos, y comenzó a bailar, completamente sin censura y totalmente expuesta». Y añadió: «Fue impactante lo rápido que me encontré con eso; de ningún modo le pedí que le quitara la ropa, lo único que hice fue seleccionar la opción (spicy)».
Fracaso en la verificación de edad y las nuevas leyes
El informe de The Verge también señaló la ausencia de métodos adecuados para la verificación de edad, que se convirtieron en ley en julio. Weatherbed indicó que se suscribió a la versión de pago de Grok Imagine, que le costó 30 libras esterlinas, utilizando una cuenta de Apple totalmente nueva. Grok le pidió su fecha de nacimiento, pero no hubo ningún otro medio para verificar la edad. Conforme a las nuevas leyes británicas que entraron en vigor a finales de julio, las plataformas que muestran imágenes pornográficas deben verificar la edad de los usuarios utilizando métodos «técnicamente precisos, sólidos, fiables y justos».
El regulador de medios británico Ofcom declaró a BBC News que «los sitios web y las aplicaciones que incluyen herramientas de inteligencia artificial generativa capaces de producir material pornográfico están sujetos a regulación por ley». Añadió en un comunicado: «Somos conscientes del riesgo creciente y evolutivo que las herramientas de inteligencia artificial generativa pueden suponer en el espacio digital, especialmente para los niños, y estamos trabajando para garantizar que las plataformas implementen salvaguardas adecuadas para mitigar estos riesgos».
No es la primera vez: el historial de Taylor Swift con los deepfakes
Esta no es la primera vez que la imagen de Taylor Swift es utilizada de esta manera ofensiva. En enero de 2024, circularon clips de deepfakes pornográficos que utilizaban su rostro de forma masiva y fueron vistos millones de veces en las plataformas X y Telegram. Los deepfakes son imágenes generadas por computadora que sustituyen el rostro de una persona por el de otra, y a menudo se utilizan para crear contenido pornográfico no consentido.
En aquel momento, la plataforma X bloqueó temporalmente las búsquedas de su nombre. La empresa afirmó que estaba «eliminando activamente» las imágenes y tomando «las medidas oportunas» contra las cuentas implicadas en su difusión. Este historial fue lo que motivó al equipo de The Verge a probar Grok Imagine utilizando el nombre de Swift, ya que asumieron erróneamente que se habrían implementado salvaguardas para proteger su imagen en particular.
Nuevas legislaciones para combatir el deepfake pornográfico
Actualmente, la creación de deepfakes pornográficos se considera ilegal cuando se utiliza en casos de «venganza pornográfica» o si representa a menores. La profesora McGlynn ayudó a redactar una enmienda a la ley que tipifica como ilegal la creación o solicitud de todo tipo de deepfakes pornográficos no consentidos. El gobierno se ha comprometido a convertir esta enmienda en ley, pero aún no ha entrado en vigor.
La baronesa Owen, que propuso la enmienda en la Cámara de los Lores, declaró: «Todas las mujeres deben tener derecho a elegir quién posee imágenes íntimas de ellas». Y añadió: «Es fundamental que estos modelos no se utilicen de una manera que viole el derecho de la mujer a dar su consentimiento, ya sea una celebridad o no». Consideró que este caso es un claro ejemplo de «por qué el gobierno no debe retrasar más la implementación de las enmiendas de la Cámara de los Lores».
Reacciones de las empresas implicadas
Se contactó con xAI, la empresa detrás de Grok, para obtener comentarios, pero aún no ha respondido. Por su parte, el Ministerio de Justicia británico señaló: «Los deepfakes pornográficos creados sin consentimiento son denigrantes y dañinos. No toleramos la violencia contra las mujeres y las niñas que empaña nuestra sociedad, razón por la cual hemos promulgado legislación para prohibir su creación lo antes posible».
El equipo de The Verge decidió probar la función de Grok Imagine utilizando el nombre de Taylor Swift debido al incidente anterior. Weatherbed afirmó: «Supusimos —y ahora vemos que fue un error— que si hubieran establecido algún tipo de salvaguarda para evitar la imitación de rostros de celebridades, ella habría encabezado la lista, dados los problemas a los que se enfrentaron».
Conclusión: un llamamiento urgente para regular la inteligencia artificial
Este incidente pone de relieve la urgente necesidad de desarrollar mecanismos de control estrictos y de aplicar leyes eficaces para combatir el uso indebido de las tecnologías de inteligencia artificial. El diseño de los modelos de inteligencia artificial no debe limitarse a la innovación técnica, sino que debe situar la ética y la seguridad digital en el centro de sus prioridades. Proteger a los individuos frente al contenido dañino y ofensivo no es solo una opción, sino una responsabilidad que deben asumir tanto las empresas tecnológicas como los organismos reguladores.
