Introducción
En un nuevo escándalo digital que pone de relieve los graves fallos en las políticas de supervisión y protección de usuarios de las principales empresas tecnológicas del mundo, un informe de investigación detallado publicado esta semana por el Instituto para el Diálogo Estratégico reveló que las principales redes sociales, encabezadas por YouTube y X, han servido como pasarelas y canales directos para dirigir y desviar a millones de usuarios hacia sitios web y aplicaciones sospechosos. Estos sitios se especializan en crear y generar imágenes explícitas, falsas y difamatorias mediante tecnologías avanzadas de inteligencia artificial conocidas como deepfakes, sin el menor consentimiento o autorización de las personas afectadas y de las víctimas cuyos rostros aparecen en dichas imágenes. Estos resultados impactantes, preocupantes y respaldados por pruebas digitales y estadísticas confirman el rotundo fracaso de las políticas de moderación, filtrado de contenido y gestión de datos aplicadas actualmente por las principales plataformas sociales en su supuesto empeño por evitar la propagación y promoción de herramientas y programas maliciosos utilizados claramente para la extorsión y el acoso basados en imágenes digitales, lo que plantea serias dudas sobre el compromiso de dichas plataformas con la seguridad y el bienestar de las personas y las comunidades en el mundo virtual.
- Un volumen masivo de tráfico generado por referencias
- Una industria criminal de bajo coste y graves daños sociales
- El panorama legislativo y el persistente fracaso en asumir responsabilidades
- Preguntas frecuentes
Un volumen masivo de tráfico generado por referencias
El riguroso informe elaborado por el Instituto para el Diálogo Estratégico demostró que las distintas plataformas de redes sociales fueron directa y operativamente responsables de atraer y redirigir más de 5,7 millones de visitas reales hacia sitios web y aplicaciones maliciosas de deepfakes entre diciembre de 2025 y marzo de 2026. Resulta preocupante y alarmante que la plataforma de video YouTube encabezara indiscutiblemente la lista como la mayor fuente individual y principal de tráfico y referencias hacia estos sitios sospechosos, siendo responsable por sí sola de redirigir 1,82 millones de visitas, lo que representa más del 30 por ciento del total de visitas registradas con precisión. Por su parte, la plataforma X, anteriormente conocida como Twitter, ocupó el segundo lugar al contribuir en la redirección de más de 1,3 millones de visitas de usuarios que buscaban dichos servicios. El informe detalló que los videos publicados masivamente en YouTube que guiaban a los usuarios paso a paso hacia estos sitios incluían reseñas detalladas y presentaciones promocionales de aplicaciones específicas y fáciles de usar, conteniendo a menudo enlaces directos y códigos promocionales para obtener créditos de uso gratuito con el fin de atraer a adolescentes y usuarios.
Al comentar sobre este devastador desastre digital, Melanie Smith, directora sénior de investigación y políticas del Instituto para el Diálogo Estratégico, declaró a la destacada revista tecnológica Wired que el papel de YouTube no se limitó a ser una mera fuente pasiva de referencias. Smith afirmó claramente: «En una gran cantidad de estos casos documentados por nosotros, la plataforma y los videos en ella facilitaban activamente, entrenaban y guiaban a las personas sobre cómo usar y operar estas herramientas dañinas». Smith señaló que las políticas, las condiciones de servicio y las normas internas de YouTube prohíben clara y estrictamente la publicación de contenido sexual explícito, además de impedir rotundamente la inclusión de enlaces externos que conduzcan a sitios web pornográficos o los promuevan; sin embargo, añadió con pesar: «Pero nos queda claro y confirmado que estas políticas y normas escritas no se aplican ni se ejecutan de manera integral, firme o efectiva en la práctica».
Una industria criminal de bajo coste y graves daños sociales
El estudio de campo examinó y analizó los mecanismos y la tarificación de estas herramientas de deepfakes, revelando un grave problema: el servicio es sumamente accesible, permitiendo que usuarios malintencionados generen y creen imágenes explícitas y ofensivas de cualquier persona, ya sea una celebridad o un ciudadano común, a un costo muy bajo de apenas un dólar estadounidense por imagen producida. A pesar de estos costos extremadamente bajos para el usuario individual, estos servicios y sitios especializados pueden resultar altamente lucrativos y comerciales para sus operadores y propietarios. Una investigación reciente y exhaustiva realizada por la revista especializada Wired estimó que las principales plataformas proveedoras de servicios de deepfakes generan colectivamente ingresos financieros sustanciales y ganancias anuales estimadas en unos 36 millones de dólares.
Asimismo, el informe documentó con gran preocupación que la lista de víctimas y objetivos habituales de estos denigrantes ataques digitales suele incluir a parejas actuales o anteriores con fines de venganza y difamación, así como a familiares, compañeros de trabajo y personas del entorno social cercano. Los motivos maliciosos detrás de estas acciones van mucho más allá del mero acoso o la extorsión sexual individual; la investigadora Smith explicó que «el objetivo principal de muchas de estas solicitudes e imágenes generadas era destruir reputaciones profesionales, provocar el despido de personas de sus empleos y medios de subsistencia, y poner en grave peligro sus carreras y vidas personales de maneras despreciables y muy dañinas que no se pueden reparar fácilmente».
El panorama legislativo y el persistente fracaso en asumir responsabilidades
Estos preocupantes resultados llegan en un momento crítico en el que crece el interés legal y regulatorio estricto, y se intensifican las demandas de medidas gubernamentales serias para combatir el uso de la tecnología deepfakes en la difamación y la extorsión digital. La ley federal de eliminación de contenido, aprobada en Estados Unidos en 2025, obliga a todas las plataformas digitales y empresas tecnológicas a eliminar con rapidez y de inmediato las imágenes íntimas, no consentidas y falsas en un plazo máximo de 48 horas tras recibir un aviso o denuncia. En mayo pasado, una amplia coalición de 54 organizaciones y asociaciones de la sociedad civil dirigió una carta firme y contundente a los fiscales generales de varios estados, instándolos a tomar medidas legales rigurosas y decisivas, y a procesar a los proveedores y operadores de estas aplicaciones fraudulentas. Por su parte, el estado de Minnesota promulgó rápidamente una ley local estricta que prohíbe de manera tajante el uso, el desarrollo o la difusión de aplicaciones de deepfakes dentro de su territorio.
A pesar de estas medidas iniciales, el informe del Instituto para el Diálogo Estratégico argumenta de forma reiterada que las medidas legales y regulatorias actuales siguen siendo insuficientes y muy limitadas para abordar las raíces de la crisis con la rapidez y firmeza necesarias, exigiendo con urgencia respuestas gubernamentales coordinadas que incluyan la imposición de normativas más estrictas sobre las principales redes sociales, así como el lanzamiento e implementación de programas de concienciación y alfabetización digital en escuelas e instituciones educativas. A principios de este año, una investigación periodística independiente reveló que se habían denunciado formalmente casos e imágenes falsas y ofensivas creadas mediante deepfakes en unas 90 escuelas e instituciones educativas repartidas en 28 países del mundo. Mientras tanto, se detectó una red compleja y organizada de cuentas falsas en la plataforma X que seguía operando activamente y pagando para promover de forma continua estas herramientas de deepfakes hasta hace muy poco, en junio pasado, lo que pone de relieve la magnitud de la catástrofe social y su rápida propagación, la cual debe detenerse de inmediato.
Preguntas frecuentes
Pregunta: ¿Cuáles son las principales plataformas cuyo papel directo en la redirección de usuarios hacia sitios de deepfakes fue revelado?
Respuesta: El estudio reciente demostró que YouTube y X fueron las pasarelas más grandes y utilizadas para remitir y dirigir a millones de usuarios hacia estos sitios maliciosos en internet.
Pregunta: ¿Cómo contribuyó YouTube de manera efectiva a facilitar el acceso de los usuarios a estas aplicaciones dañinas?
Respuesta: Los videos de la plataforma incluyeron reseñas promocionales y explicaciones sobre el funcionamiento, acompañados de enlaces externos para obtener servicios y códigos promocionales gratuitos.
Pregunta: ¿Cuál es el costo material estimado para producir una imagen ofensiva utilizando estas herramientas avanzadas?
<p dir="Respuesta: Los usuarios pueden acceder a los servicios de producción y generación de imágenes falsas a un costo muy bajo que podría no superar un dólar estadounidense por imagen, lo que facilita su acceso y amplia propagación.
Pregunta: ¿Existen iniciativas legales y legislativas actuales para abordar este fenómeno y exigir responsabilidades a las plataformas?
Respuesta: Sí, se han aprobado leyes federales que obligan a las plataformas a eliminar el contenido ilícito en un plazo de 48 horas, y algunos estados, como Minnesota, han adoptado decisiones para prohibir por completo estas aplicaciones.
