Meta se enfrenta a duras críticas por la lentitud en eliminar cuentas que publican videos generados por inteligencia artificial de niños en escenas de mendicidad y abuso severo.
- Investigaciones periodísticas y respuesta tardía de la plataforma Facebook
- Videos impactantes que incluyen escenas de tortura y violencia contra menores
- El fenómeno de la mendicidad digital y el engaño a los seguidores con contenido falso
- Un historial recurrente de críticas y próximos movimientos parlamentarios
- Preguntas frecuentes
Investigaciones periodísticas y respuesta tardía de la plataforma Facebook
Meta Platforms tardó más de 48 horas completas en tomar medidas prácticas contra 19 cuentas en la plataforma Facebook que publicaban sistemáticamente videos extremadamente crueles y violentos generados en su totalidad mediante herramientas de inteligencia artificial, los cuales retratan diversas formas de abusos e infracciones graves contra bebés y menores, según una investigación periodística publicada por el medio especializado Futurism, el cual había notificado oficialmente a la empresa sobre las cuentas sospechosas.
La crisis no se detuvo ahí; un segundo informe de investigación publicado por el mismo medio el viernes reveló una amplia difusión de cuentas especializadas en transmitir videos artificiales de niños llorando desconsoladamente y suplicando a los usuarios que interactúen, den «me gusta» y sigan las páginas. Aunque Meta procedió a cerrar dos de las tres cuentas documentadas por la segunda investigación, sus responsables se abstuvieron por completo de responder a consultas claras sobre si estos videos manipuladores violan las reglas y políticas oficiales de la plataforma.
Videos impactantes que incluyen escenas de tortura y violencia contra menores
Futurism explicó que rastreó e informó a la administración de Meta sobre estas 19 cuentas para probar la velocidad de respuesta de la organización tecnológica, especialmente tras informes anteriores que documentaban la difusión de clips similares. El informe reveló que los videos que permanecieron disponibles para su visualización durante días incluían escenas impactantes que mostraban a niños siendo golpeados brutalmente, quemados y encerrados en jaulas de hierro; de hecho, uno de los clips mostraba una escena espeluznante de un bebé dentro de un horno caliente, mientras que otros mostraban a un niño pequeño siendo empujado por unas escaleras y a menores siendo azotados con cinturones, además de videos que retrataban a profesores agrediendo físicamente a alumnos de piel oscura dentro de las aulas.
Estas cuentas continuaron operando normalmente en Facebook durante varios días, incluso después de la publicación del reportaje periodístico el 7 de octubre, antes de que la empresa interviniera para eliminarlas limitándose a la habitual declaración escueta: «Hemos eliminado este contenido por infringir nuestras políticas». La plataforma de investigación señaló un incidente anterior en el que la empresa eliminó una cuenta infractora mientras se preparaba la investigación, para luego reactivar esa misma cuenta y permitir que volviera a publicar sus clips abusivos inmediatamente después de la publicación del artículo periodístico.
El fenómeno de la mendicidad digital y el engaño a los seguidores con contenido falso
El segundo informe de investigación detectó la proliferación de cuentas con nombres emocionales como «Emotional Tots» y «Tiny Miracle», centradas en la publicación de videos cortos generados por inteligencia artificial en los que aparece un niño pequeño intentando tomar un trozo de comida o una hogaza de pan para calmar su hambre, antes de ser detenido por un guardia de seguridad o un policía estricto. En uno de los clips que acumuló millones de visualizaciones, el policía aparece diciéndole a un niño sollozante: «No tienes suficientes seguidores y compartidos en tus videos; y si la persona que está viendo este video presiona el botón de seguir y compartir ahora, serás puesto en libertad de inmediato».
Una revisión de los comentarios demostró que una gran parte del público de usuarios comunes no se dio cuenta en absoluto de que dichos clips eran artificiales y generados mediante algoritmos de inteligencia artificial, sino que los trataron como casos humanitarios reales y dolorosos. Un portavoz de Meta se limitó a decir: «Estamos trabajando para eliminar cualquier contenido que viole nuestras políticas, independientemente de si fue creado por inteligencia artificial o por un ser humano real», ignorando responder directamente sobre si los videos de mendicidad infantil están sujetos a una prohibición directa.
Un historial recurrente de críticas y próximos movimientos parlamentarios
Estos escándalos digitales se suman a un largo historial de acusaciones dirigidas contra Meta por su pasividad en la protección de niños y menores en sus aplicaciones. El pasado mes de septiembre, el Tech Transparency Project documentó que la empresa transmitió 332 anuncios patrocinados que promovían material de explotación sexual infantil generado por inteligencia artificial a través de las plataformas Facebook e Instagram, algunos de los cuales utilizaron imágenes reales de niños conocidos.
Andy Stone, portavoz oficial de Meta, declaró recientemente a la agencia Bloomberg: «No toleramos en absoluto las aplicaciones de desnudez ni ninguna forma de explotación infantil, ya sea que ese contenido sea real o generado por inteligencia artificial». Sin embargo, la lentitud de los mecanismos de supervisión y el flujo continuo de estas escenas han llevado a miembros del Congreso de Estados Unidos a anunciar su intención de abrir investigaciones parlamentarias profundas para pedir cuentas a los funcionarios de la empresa y obligarlos a adoptar medidas técnicas estrictas para detener estas violaciones.
Preguntas frecuentes
Pregunta: ¿Cuáles son los videos abusivos revelados por los informes de Futurism?
Respuesta: Los informes revelaron cuentas que publicaban videos generados por inteligencia artificial que muestran a niños siendo torturados y encarcelados, o suplicando a los espectadores seguidores.
Pregunta: ¿Cuánto tardó Meta en eliminar las cuentas que publican videos de violencia?
Respuesta: La empresa tardó más de 48 horas tras la notificación oficial en eliminar las cuentas, y algunos clips permanecieron disponibles durante varios días después de la publicación periodística.
Pregunta: ¿Qué es el fenómeno de los videos de mendicidad digital extendido en la plataforma?
Respuesta: Son clips ficticios que muestran a niños llorando en los que se afirma que su liberación está vinculada a que el espectador presione los botones de seguir y compartir.
Pregunta: ¿Clarificó Meta su postura legal sobre los videos de mendicidad infantil?
Respuesta: La empresa se negó a revelar si estos clips manipuladores violan sus políticas, limitándose a confirmar la eliminación del contenido infractor en general.
