Una nueva investigación periodística ha desencadenado una amplia crisis ética en el mundo de Silicon Valley sobre los métodos utilizados por las grandes empresas tecnológicas para probar las vulnerabilidades de seguridad de sus competidores.
Tabla de contenidos
- Introducción al reportaje y detalles de los métodos de prueba
- Tipo de peticiones sensibles e imágenes utilizadas para presionar
- Patrón de escrutinio y críticas de seguridad dirigidas a Meta
- El giro radical hacia la automatización y la supresión de supervisores humanos
- Preguntas frecuentes sobre la crisis de los contratistas de Meta
Introducción al reportaje y detalles de los métodos de prueba
Un reportaje de investigación controvertido publicado por la revista global Wired reveló que cientos de contratistas y empleados externos que trabajan para un proyecto secreto de Meta Platforms recibieron instrucciones explícitas de fingir y hacerse pasar por niños y adolescentes menores de edad. Estas prácticas tienen como objetivo acceder de forma sistemática e interrogar a los robots de conversación y chat de empresas tecnológicas rivales en el mercado, incluido el sistema Gemini desarrollado por Google y el conocido ChatGPT de OpenAI, para detectar fallos y vulnerabilidades en sus sistemas de protección.
Tipo de peticiones sensibles e imágenes utilizadas para presionar
La investigación señaló claramente que los contratistas, la mayoría de los cuales se encuentran en Kenia, enviaron y transmitieron miles de peticiones de texto e imágenes sensibles, peligrosas y chocantes que abordan temas de suicidio, prácticas sexuales no éticas, estupefacientes y medicamentos prohibidos, además de enviar imágenes de herramientas afiladas, sogas y dibujos médicos anatómicos precisos de cirugías. Este paquete intensivo de peticiones dirigido a los chatbots de las empresas rivales fue diseñado para llevarlos al límite de su capacidad operativa y obligarlos a violar las políticas de seguridad, con el fin de observar cómo estos sistemas inteligentes responden y gestionan las solicitudes de contenido dañino y peligroso por parte de menores.
Patrón de escrutinio y críticas de seguridad dirigidas a Meta
Estas admisiones y documentos filtrados añaden dimensiones nuevas y muy preocupantes a la continua rendición de cuentas y al escrutinio internacional sobre cómo las grandes tecnológicas desarrollan y protegen sus productos inteligentes, especialmente en lo que respecta a la seguridad y la salud mental infantil. Al mismo tiempo, Meta se enfrenta a duras críticas y a demandas legales en curso sobre los mecanismos de interacción de sus propios chatbots con los menores, ya que una evaluación interna previa y secreta realizada por su equipo rojo mostró una tasa de fallo del 66.8% al bloquear y prevenir contenido relacionado con el abuso sexual infantil, y una tasa de fallo del 54.8% al prohibir peticiones de suicidio y autolesión, lo que la llevó a suspender temporalmente el acceso de los adolescentes a dichas funciones.
El giro radical hacia la automatización y la supresión de supervisores humanos
La publicación de este impactante informe coincide con la aceleración por parte de Meta de sus planes para eliminar de forma gradual y total los equipos de moderación de contenido humano y depender exclusivamente de algoritmos de grandes modelos de lenguaje para gestionar las plataformas, ya que planea reemplazar a más del 90% de los empleados humanos de revisión de contenidos para finales de 2026. Estas nuevas orientaciones han provocado el despido de un amplio sector de trabajadores en Kenia, especialmente tras el anuncio de la empresa de externalización Sama de finalizar los contratos de 1,108 empleados de forma repentina, lo que pone de relieve el elevado costo humano y las profundas tensiones en el núcleo de los problemas de seguridad de la IA contemporánea y la búsqueda de la automatización total por parte de las empresas en aras de los beneficios.
Preguntas frecuentes
Pregunta: ¿Cuáles son los chatbots rivales que los contratistas de Meta probaron?
Respuesta: Las pruebas secretas e intensivas se dirigieron al sistema Gemini de Google y al sistema ChatGPT de OpenAI.
Pregunta: ¿Dónde se ubican los empleados externos y cuál es la naturaleza del contenido que enviaron?
Respuesta: Los empleados tienen su base en Kenia y enviaron peticiones de texto e imágenes relacionados con el suicidio, las drogas y herramientas afiladas para vulnerar los sistemas de seguridad de la competencia.
Pregunta: ¿Cuál es el porcentaje de supervisores humanos que Meta planea reemplazar con inteligencia artificial?
Respuesta: Meta planea reemplazar y excluir a más del 90% de la fuerza laboral humana en el campo de la revisión de contenidos y depender de la automatización para finales de 2026.
