Los usuarios de generadores de imágenes por inteligencia artificial están intercambiando instrucciones sobre cómo utilizar la tecnología para modificar fotografías de mujeres y convertirlas en imágenes de “deepfake” realistas y reveladoras, lo que pone de relieve el fallo en los controles de seguridad de las principales empresas tecnológicas y plantea graves cuestiones éticas.
Contenido del artículo:
- Introducción: explotación de la tecnología en el acoso digital
- Comunidades de elusión digital y consejos compartidos
- Fallo de los controles de seguridad en los principales modelos
- Respuestas de Google y OpenAI a la crisis
- Implicaciones legales y de derechos
- Preguntas frecuentes
Introducción: explotación de la tecnología en el acoso digital
En una flagrante violación de la privacidad y la ética, algunos usuarios de chatbots populares utilizan técnicas de inteligencia artificial para generar imágenes de “deepfake” de mujeres en traje de baño, utilizando como material de origen fotografías de mujeres completamente vestidas. La mayoría de estas imágenes falsas demuestran haber sido creadas sin el consentimiento de las mujeres que aparecen en las fotos originales. Y lo que es más grave, estos usuarios se aconsejan mutuamente sobre cómo utilizar las herramientas de inteligencia artificial generativa para “desnudar” a las mujeres en las imágenes y hacer que parezcan llevar ropa reveladora, lo que refleja un lado oscuro del progreso tecnológico.
Comunidades de elusión digital y consejos compartidos
Bajo una publicación ahora eliminada en Reddit titulada «Generar imágenes inapropiadas de Gemini es muy fácil», los usuarios intercambiaron consejos sobre cómo hacer que “Gemini”, el modelo de inteligencia artificial de Google, creara imágenes de mujeres con ropa reveladora. Una solicitud destacó especialmente: un usuario publicó la foto de una mujer con un sari indio y pidió que alguien “quitara” su ropa y “pusiera un bikini” en su lugar. Otra persona respondió con una imagen de deepfake cumpliendo la solicitud. Tras notificar a la administración de Reddit sobre estas publicaciones, el equipo de seguridad eliminó la solicitud y la imagen falsa. Un portavoz del sitio web declaró: «Las normas del sitio prohíben el contenido íntimo no consensuado». Sin embargo, los debates siguen activos en otros foros que intentan eludir la protección de estas herramientas.
Fallo de los controles de seguridad en los principales modelos
A medida que se generalizan las herramientas de inteligencia artificial generativa que facilitan la creación de imágenes realistas pero falsas, los usuarios continúan acosando a las mujeres con imágenes de deepfake no consensuadas. Millones de personas han visitado sitios web maliciosos de “desnudez” diseñados para que los usuarios carguen fotos reales de personas y soliciten que se les desvista mediante inteligencia artificial. A excepción del modelo “Grok” de xAI, la mayoría de los chatbots convencionales no suelen permitir la generación de imágenes pornográficas. Estos bots, incluidos “Gemini” de Google y “ChatGPT” de OpenAI, cuentan con controles que intentan impedir la generación maliciosa. Sin embargo, en pruebas limitadas para confirmar que estas tecnologías funcionan, los periodistas pudieron transformar fotos de mujeres completamente vestidas en imágenes falsas en bikini utilizando simples comandos de texto en inglés, lo que demuestra la facilidad para sortear estos sistemas.
Respuestas de Google y OpenAI a la crisis
Cuando se le preguntó sobre los usuarios que generan este tipo de imágenes utilizando Gemini, un portavoz de Google afirmó que la empresa cuenta con «políticas claras que prohíben el uso de sus herramientas de inteligencia artificial para generar contenido sexualmente explícito». El portavoz alegó que las herramientas de Google mejoran constantemente para «reflejar» lo establecido en sus políticas de inteligencia artificial. Por el contrario, un portavoz de OpenAI afirmó que la empresa relajó algunos de los controles de ChatGPT este año en lo que respecta a cuerpos de adultos en situaciones no sexuales. El portavoz también destacó la política de uso, señalando que se prohíbe a los usuarios alterar la apariencia de otra persona sin consentimiento y que la empresa toma medidas contra los infractores, incluida la prohibición de cuentas.
Implicaciones legales y de derechos
Corynne McSherry, directora legal de la Electronic Frontier Foundation, considera que las «imágenes sexuales abusivas» son uno de los riesgos fundamentales de los generadores de imágenes por inteligencia artificial. Menciona que estas herramientas de imagen pueden utilizarse para otros fines ajenos al deepfake, y que centrarse en cómo se utilizan las herramientas es crucial, además de «exigir responsabilidades a las personas y a las empresas» cuando se produce un daño potencial. El asunto sigue planteando interrogantes sobre el grado de responsabilidad de las empresas tecnológicas en el uso indebido de sus herramientas, y si las prohibiciones técnicas son suficientes o si se necesita una legislación más estricta.
Preguntas frecuentes
Pregunta: ¿Qué es el deepfake?
Respuesta: Es una técnica que utiliza la inteligencia artificial para modificar o sustituir los rasgos de las personas en fotos y vídeos, creando contenido falso que parece muy realista.
Pregunta: ¿Es legal utilizar las fotos de otros y modificarlas?
Respuesta: En muchos países, modificar las fotos de las personas para crear contenido pornográfico o abusivo sin su consentimiento se considera un delito punible por la ley, el cual se enmarca dentro de la violación de la privacidad y el acoso.
Pregunta: ¿Cómo intentan las empresas impedir este contenido?
Respuesta: Las empresas establecen “controles de seguridad” por software que rechazan las solicitudes que contienen palabras o contextos sexuales, pero los usuarios encuentran formas de eludirlos utilizando diferentes redacciones.
