- Introducción a las decisiones de la Junta de Supervisión
- El deepfake como contenido no consentido
- Ampliación de las opciones de denuncia a nivel mundial
- El profundo impacto negativo en las mujeres
- Implicaciones futuras para las plataformas de Meta
- Preguntas frecuentes
Introducción a las decisiones de la Junta de Supervisión
En una decisión histórica que refleja la creciente preocupación por el uso indebido de la tecnología, la Junta de Supervisión independiente de Meta anuló el martes una decisión interna previa de la compañía que permitía mantener un video de carácter sexual generado por inteligencia artificial en la plataforma Instagram. La junta ordenó de manera categórica la eliminación de este contenido engañoso y ofensivo, al tiempo que instó a Meta a reforzar sus protocolos y endurecer las medidas de protección para las figuras públicas que caen víctimas de imágenes íntimas falsificadas mediante deepfakes. Esta intervención decisiva establece normas más estrictas sobre cómo se gestionan las grandes plataformas digitales y transfiere una mayor responsabilidad a las empresas para proteger a los usuarios frente a la extorsión digital y la difamación deliberada en una era moderna plagada de desafíos tecnológicos sin precedentes.
El deepfake como contenido no consentido
Esta rigurosa decisión, publicada oficialmente el 23 junio, surge a raíz de un caso en el que un usuario denunció que un video generado por inteligencia artificial que suplantaba la identidad de una mujer real había sido publicado en Instagram sin el consentimiento de la persona retratada, lo que causó un daño grave y peligroso a su reputación. Aunque la dirección de Meta había decidido inicialmente mantener el contenido disponible basándose en determinadas políticas internas, la Junta de Supervisión determinó tras su revisión que dicha publicación infringía claramente la política de la empresa sobre explotación sexual de adultos. En su fallo integral, el concluyó que el fenómeno de la suplantación sexual de personas reales mediante inteligencia artificial debe considerarse de forma predeterminada como un acto no consentido, y debe incorporarse a las señales e indicadores que utiliza Meta para demostrar y confirmar la ausencia de consentimiento. La junta recomendó encarecidamente que la compañía añada una nueva señal a su política de explotación sexual que cubra específicamente la suplantación sexual generada artificialmente de personas reales para evitar futuros vacíos legales.
Ampliación de las opciones de denuncia a nivel mundial
Junto con su orden de eliminar el clip, la junta emitió varias recomendaciones adicionales destinadas a corregir fallas sistémicas. Pidió a Meta que permita a los usuarios designar «cuentas conectadas» —que pueden incluir a amigos de confianza, familiares o parejas cercanas— para que puedan denunciar en su nombre cualquier posible infracción relacionada con imágenes íntimas no consentidas. Asimismo, recomendó crear una categoría de denuncia independiente y específica para la suplantación sexual derivada de la inteligencia artificial, diferenciándola claramente de las categorías generales actuales como «acoso» o «desnudez», y exigió que estos formularios de denuncia estén disponibles y sean accesibles en todo el mundo. Actualmente, los formularios especializados para denunciar imágenes íntimas de deepfake solo están disponibles para los usuarios de ciertas jurisdicciones, incluidos los estados de Texas y Florida en Estados Unidos. La junta presionó firmemente para que todos los usuarios del mundo tengan acceso a estas herramientas vitales, señalando que las personas que no son figuras públicas, en particular, «suelen cargar con la mayor parte de la responsabilidad de la autodenuncia» de estos delitos.
El profundo impacto negativo en las mujeres
La junta reiteró además sus recomendaciones previas y cruciales de que Meta sustituya el término «manipulación sexual degradante mediante Photoshop» en sus políticas por un lenguaje más actualizado y exhaustivo que se refiera claramente a los medios manipulados «no consentidos», y que trabaje en la implementación a gran escala de las credenciales de contenido de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). A este respecto, la organización internacional de derechos digitales WITNESS afirmó que esta decisión histórica «refleja las principales preocupaciones sobre la suplantación sexual generada por inteligencia artificial», subrayando que el principio de consentimiento debe situarse en el centro de las políticas de moderación de contenidos en este ámbito delicado y sensible.
Implicaciones futuras para las plataformas de Meta
Este importante fallo se produce tras el anuncio realizado por la junta en febrero sobre su intención de investigar el caso, y se basa en una resolución anterior emitida en julio de 2024, en la que declaró claramente que las políticas de Meta sobre los videos deepfake necesitaban urgentemente una actualización integral. La junta ha advertido en repetidas ocasiones que el rápido y asombroso avance técnico de las herramientas de inteligencia artificial generativa ha propiciado la proliferación generalizada de contenidos sexuales no consentidos, lo que inflige daños psicológicos y sociales desproporcionados que afectan principalmente a mujeres y niñas en todo el mundo, exigiendo una postura firme y medidas disuasorias por parte de las grandes plataformas digitales.
Preguntas frecuentes
Pregunta: ¿Cuál fue la directriz principal emitida por la Junta de Supervisión para Meta?
Respuesta: La junta obligó a la empresa a eliminar un video que suplantaba la identidad de una mujer en un contexto sexual inapropiado y consideró que la difusión de estas grabaciones manipuladas constituye una agresión no consentida que debe borrarse de inmediato.
Pregunta: ¿Qué recomendaciones buscan facilitar el proceso de denuncia de contenidos abusivos?
Respuesta: La junta recomendó habilitar formularios de denuncia específicos para deepfakes a nivel mundial y permitir que personas de confianza, como familiares, presenten denuncias en nombre de las víctimas afectadas.
Pregunta: ¿Qué grupo social resulta ser el más perjudicado por estos clips según el informe?
Respuesta: El informe señaló que la propagación de este contenido perjudicial afecta de forma desproporcionada a mujeres y niñas, así como a particulares no famosos que carecen de herramientas de protección.
