Pruebas realizadas por el diario estadounidense The Guardian mostraron la respuesta de los chatbots ChatGPT y Grok a solicitudes para quitar el hiyab en imágenes de mujeres musulmanas generadas digitalmente. Estos resultados generaron crecientes preocupaciones sobre derechos y ética respecto a la violación de la privacidad religiosa y la perpetuación de sesgos digitales sin el consentimiento de sus dueñas.
- Pruebas periodísticas revelan que los robots responden a la retirada del hiyab
- Un tuit de un parlamentario francés enciende la chispa de la investigación periodística
- Respuestas de los chatbots y los límites entre el rechazo y la aceptación automática
- Experimentos que incluyeron el turbante sij y el hábito de monjas cristianas
- Antecedentes del robot Grok y las medidas de bloqueo geográfico vigentes
- Preguntas frecuentes
Pruebas periodísticas revelan que los robots responden a la retirada del hiyab
La edición estadounidense del periódico británico «The Guardian» llevó a cabo una serie de pruebas de investigación detalladas en varios de los principales chatbots y herramientas de inteligencia artificial generativa. Los resultados mostraron que dos plataformas clave, «ChatGPT» (de OpenAI) y «Grok» (de xAI, propiedad del multimillonario Elon Musk), accedieron a las peticiones y eliminaron el hiyab de una imagen generada por ordenador de una mujer musulmana que llevaba el pañuelo islámico. Estas prácticas desencadenaron una ola de indignación, interrogantes y duras críticas éticas sobre cómo los algoritmos de edición de imágenes abordan los principios del consentimiento personal y los límites religiosos y culturales de las comunidades.
Las pruebas consistieron en enviar una solicitud específica a cuatro modelos inteligentes líderes: ChatGPT, Grok, Google Gemini y Claude (de Anthropic), para quitar el tocado de una imagen diseñada digitalmente de una mujer con hiyab y túnica larga. Mientras que ChatGPT y Grok ejecutaron la modificación solicitada de inmediato, el modelo Claude rechazó rotundamente la petición, explicando que carece de funciones de edición visual y no aprueba quitarle el hiyab a ninguna persona. Por su parte, Gemini rechazó la petición al principio, argumentando que no está permitido alterar la apariencia personal sin consentimiento previo; sin embargo, cuando se le pidió posteriormente que rediseñara la imagen para que la mujer luciera un aspecto más «occidental», cumplió y generó una imagen de la misma mujer sin hiyab. Las cuatro empresas se abstuvieron de emitir comentarios oficiales al periódico.
Un tuit de un parlamentario francés enciende la chispa de la investigación periodística
Estas intensas pruebas periodísticas comenzaron tras un incidente que desató un amplio debate político en Francia, cuando «Julien Odoul», diputado de la Asamblea Nacional francesa perteneciente al partido ultraderechista Agrupación Nacional, publicó en la plataforma X una imagen editada digitalmente de una mujer musulmana real tras quitarle el hiyab y su vestido largo de manga larga, acompañada de la frase promocional «Libertad francesa». El periódico no pudo verificar con certeza la herramienta técnica utilizada para la edición ni si el diputado realizó el cambio por sí mismo.
«Évian Leidig», investigadora principal del Centro para el Estudio del Odio Organizado (una organización sin fines de lucro estadounidense), calificó la publicación del parlamentario como parte de una tendencia ascendente y sistemática para atacar a las comunidades musulmanas y, en particular, a las mujeres musulmanas en internet. Citó un estudio que analizó 1,326 publicaciones con imágenes generadas por IA en India, el cual reveló que aquellas publicaciones que mostraban la descontextualización y explotación de imágenes de mujeres musulmanas obtuvieron las tasas de interacción más altas, con un total de más de 6.7 millones de interacciones digitales.
Respuestas de los chatbots y los límites entre el rechazo y la aceptación automática
Al poner a prueba los límites de seguridad, ChatGPT y Grok se negaron a quitar la túnica larga del cuerpo de la mujer en la imagen diseñada por IA para evitar la generación de contenido de desnudos. Grok describió la eliminación del hiyab como un simple «cambio de ropa y peinado», ofreciendo después generar una versión menos explícita para modificar el vestido. Por su parte, ChatGPT defendió inicialmente su decisión argumentando que el hiyab es solo un tocado para la cabeza, mientras que quitarse la túnica expone el cuerpo; no obstante, más tarde reconoció que la ausencia de desnudez física explícita no niega que tales modificaciones puedan constituir una violación flagrante de la privacidad, la dignidad y los límites religiosos de las personas.
Experimentos que incluyeron el turbante sij y el hábito de monjas cristianas
Las investigaciones de The Guardian no se limitaron únicamente al hiyab islámico, sino que se extendieron a otros símbolos religiosos. El periódico pidió a los modelos que eliminaran el turbante tradicional de un hombre sij y el hábito de una monja católica. ChatGPT eliminó el turbante y el hábito de inmediato y sin dudarlo. De igual forma, Gemini eliminó el turbante del hombre sij y el hábito de la monja cuando se le solicitó que hiciera que ambas imágenes parecieran más occidentales, lo que llevó a los investigadores a advertir que la eliminación de símbolos religiosos mediante IA, aunque no infrinja las normas explícitas de desnudez de las plataformas tecnológicas, representa un comportamiento perjudicial y poco ético que vulnera las identidades religiosas.
Antecedentes del robot Grok y las medidas de bloqueo geográfico vigentes
Estos resultados vuelven a poner bajo la lupa el polémico historial de Grok, el bot de la plataforma X. El pasado mes de enero, los usuarios lograron utilizar el robot para despojar de su ropa a mujeres reales, lo que provocó la difusión generalizada de material ofensivo que condujo a una investigación penal oficial en Francia y a la imposición de restricciones temporales a la plataforma en Malasia. Un análisis realizado por la revista «Wired» sobre unas 500 imágenes generadas por Grok indicó que alrededor del 5% de ellas incluían la desornamentación de mujeres de su vestimenta religiosa o cultural a petición de los usuarios, lo que obligó posteriormente a la plataforma X a aplicar un bloqueo geográfico a las ediciones de imágenes que colocaban a personas reales en trajes de baño o ropa interior en aquellos países cuyas leyes prohíben tales prácticas.
Preguntas frecuentes
Pregunta: ¿Qué robots de inteligencia artificial accedieron a quitar el hiyab en las pruebas?
Respuesta: Los chatbots ChatGPT y Grok accedieron a eliminar el hiyab, y Gemini respondió cuando se le pidió que hiciera que la imagen luciera occidental, mientras que Claude se negó rotundamente.
Pregunta: ¿Qué incidente motivó a The Guardian a realizar esta investigación periodística?
Respuesta: La investigación surgió después de que un parlamentario francés de extrema derecha publicara en la plataforma X una imagen editada digitalmente de una mujer musulmana tras quitarle el hiyab.
Pregunta: ¿Las pruebas incluyeron otras religiones y símbolos además del hiyab islámico?
Respuesta: Sí, los experimentos incluyeron la solicitud de eliminar el turbante religioso sij y el hábito de las monjas católicas, y algunos robots respondieron eliminando también dichos símbolos religiosos.
