A pesar de las declaraciones oficiales de la plataforma “X” (anteriormente Twitter) de que había puesto fin a la capacidad del modelo de inteligencia artificial “Grok” para desnudar a personas en imágenes, las pruebas reales demuestran lo contrario, lo que sitúa a la empresa en un enfrentamiento directo con las nuevas leyes británicas y el escrutinio de los organismos reguladores.
Contenido del artículo:
- Introducción
- Promesas incumplidas y la realidad persistente
- Prueba de límites: las fallas aún existen
- Culpar a los “piratas informáticos”
- Presión legal en el Reino Unido
- Desafíos técnicos y ausencia de disuasión
- Conclusión
- Preguntas frecuentes
Introducción
El problema de los “deepfakes” sexuales no consensuados se ha convertido en uno de los desafíos más peligrosos de la inteligencia artificial generativa. Tras la difusión de imágenes ofensivas creadas a través de la plataforma X, la empresa anunció actualizaciones para restringir su modelo “Grok”. El objetivo declarado era prevenir el uso indebido de la tecnología y proteger la privacidad de las personas. Sin embargo, la brecha entre las políticas declaradas y la realidad técnica sigue siendo muy amplia, lo que genera dudas sobre la seriedad de las medidas.
Promesas incumplidas y la realidad persistente
La plataforma detalló los cambios realizados en la capacidad de la cuenta “Grok” para modificar imágenes de personas reales. Estos cambios coincidieron con los informes de la prensa, ya que las respuestas de “Grok” a solicitudes como “ponla en bikini” quedaron sujetas a censura. Sin embargo, las pruebas prácticas indican que esta censura es superficial. En pruebas realizadas el miércoles, los periodistas descubrieron que todavía es relativamente fácil lograr que “Grok” cree imágenes reveladoras de deepfake.
Prueba de límites: las fallas aún existen
Al anochecer del miércoles, y a pesar de las afirmaciones de la nueva política, los reporteros aún podían utilizar la aplicación “Grok” para generar imágenes de mujeres en trajes de baño utilizando una cuenta gratuita, lo que demuestra el fracaso de las barreras de protección. Esto indica que las modificaciones fueron probablemente cosméticas o se centraron en palabras clave específicas sin abordar la capacidad fundamental del modelo para generar este tipo de contenido.
Culpar a los “piratas informáticos”
Mientras el problema persiste, Elon Musk, propietario de xAI y X, culpó de estos problemas a las “solicitudes de los usuarios” y a lo que describió como “momentos en los que la piratería hostil de las indicaciones de Grok hace algo inesperado”. Esta defensa parece ser un intento de desviar la responsabilidad de un defecto en el diseño del sistema a la mala fe de los usuarios, una defensa que podría no sostenerse por mucho tiempo ante los reguladores que exigen una protección efectiva independientemente de los intentos de elusión.
Presión legal en el Reino Unido
El regulador de comunicaciones británico (Ofcom) abrió una investigación, y el Reino Unido implementará esta semana una ley que convierte la creación de imágenes íntimas falsas sin consentimiento en un delito penal. El primer ministro Keir Stuart le dijo a los parlamentarios que le informaron que “X” está trabajando para garantizar el cumplimiento total de la ley británica, acogiendo la medida con cautela, pero enfatizó: “No retrocederemos y deben actuar”.
Desafíos técnicos y ausencia de disuasión
Las pruebas de los medios de comunicación indican que el llamado “cumplimiento” aún no es real. La facilidad para sortear las restricciones sugiere que los modelos de inteligencia artificial relativamente abiertos como “Grok” carecen de las capas de seguridad profundas que se encuentran en los modelos competidores, o que la empresa prioriza la libertad de generación por encima de la seguridad digital. Esta situación pone a los usuarios, especialmente a las mujeres, en un riesgo continuo de sufrir abusos digitales.
Conclusión
Mientras los gobiernos intentan promulgar leyes para combatir los deepfakes, la tecnología se mantiene un paso adelante, especialmente cuando las empresas que las operan dudan en imponer restricciones estrictas. El caso de “Grok” no es solo una falla técnica, sino una prueba de la voluntad de las empresas tecnológicas para proteger la dignidad de las personas frente a la libertad de usar sus herramientas.
Preguntas frecuentes
Pregunta: ¿Solucionó la plataforma X el problema de las imágenes ofensivas en Grok?
Respuesta: La plataforma lo afirma, pero las pruebas independientes muestran que todavía es posible generar imágenes inapropiadas con facilidad.
Pregunta: ¿Cuál es la postura legal sobre los deepfakes?
Respuesta: En el Reino Unido, entrará en vigor una nueva ley que convierte la creación de imágenes íntimas falsas sin consentimiento en un delito penal.
Pregunta: ¿Cómo justificó Elon Musk la persistencia del problema?
Respuesta: Culpó a los usuarios que realizan una “piratería hostil” de las indicaciones para burlar el sistema.
