Una investigación periodística reveló que cientos de trabajadores contratados por Microsoft para mejorar el asistente Copilot ven las fotos personales de los usuarios con rostros claros y sin difuminar junto con mensajes de texto sensibles, sin ninguna opción que permita a los usuarios rechazar la revisión humana.
- Investigación periodística expone la falta de difuminado en los rostros de los usuarios
- Mecanismo de evaluación de calidad de imágenes y acceso a solicitudes sensibles
- Vacío legal y contradicción explícita en las políticas de privacidad
- Repetición de patrones de infracción en las principales empresas tecnológicas
- Preguntas frecuentes
Investigación periodística expone la falta de difuminado en los rostros de los usuarios
Una investigación exhaustiva publicada el martes por la plataforma «404 Media», especializada en periodismo de investigación digital, reveló que cientos de trabajadores contratados por «Microsoft» para mejorar y entrenar su asistente inteligente «Copilot» ven las fotos personales cargadas por los usuarios con rostros claros y sin cifrar ni difuminar, además de tener acceso completo a los mensajes de texto adjuntos y a las modificaciones generadas por inteligencia artificial.
Microsoft confirmó abiertamente a los periodistas que no existe ninguna opción o botón de configuración que permita a los usuarios rechazar o cancelar la revisión humana de sus fotos y conversaciones, lo que desató una gran ola de indignación entre los defensores de la privacidad y la protección de datos personales en todo el mundo.
Mecanismo de evaluación de calidad de imágenes y acceso a solicitudes sensibles
La investigación elaborada por el periodista de investigación «Joseph Cox» se basó en documentos internos filtrados de empresas de subcontratación, indicando que a los contratistas se les muestra la instrucción de texto original escrita por el usuario, la foto real subida y dos versiones de las modificaciones producidas por Copilot, para que el trabajador elija la mejor modificación basándose en cuatro criterios: la precisión con la que se siguió la solicitud, que el resto de la imagen permanezca intacta, que esté libre de defectos visuales y su apariencia estética general.
Lo impactante del asunto es que estos trabajadores no son moderadores de contenido capacitados, sino que las instrucciones les pedían confiar en su «intuición como seres humanos comunes». Uno de los contratistas declaró que «los rostros siempre están sin difuminar y completamente visibles, y muchas solicitudes son de naturaleza explícitamente sexual y muy sensible», señalando que vio solicitudes para acortar ropa o agrandar partes del cuerpo, fotos tomadas sin el consentimiento de sus dueños y contenidos que promueven trastornos alimentarios. La empresa «Prolific» es una de las principales agencias de contratación de estos trabajadores.
Vacío legal y contradicción explícita en las políticas de privacidad
La investigación reveló un vacío y una contradicción explícita en los documentos de Microsoft; la página de preguntas frecuentes sobre privacidad establece que las fotos subidas se someten a procesos de anonimización y oscurecimiento de rostros cuando se preparan para entrenar modelos de inteligencia artificial, pero este texto se incluye únicamente bajo la sección de entrenamiento de código y no abarca el proceso de revisión y evaluación humana.
Los documentos en una sección separada establecen abiertamente que algunas conversaciones de Copilot están sujetas a inspección humana «con fines de mejora del producto y seguridad digital», enfatizando que «la opción de cancelar la revisión humana no está disponible para los usuarios». Un portavoz de Microsoft respondió que la empresa utiliza los datos de los clientes de acuerdo con los términos de servicio anunciados para mejorar la calidad de los productos.
Repetición de patrones de infracción en las principales empresas tecnológicas
Este informe recuerda a una investigación similar publicada por la misma plataforma a principios de este mes, que reveló que los contratistas de OpenAI leían conversaciones y textos reales de los usuarios de ChatGPT.
El peligro agravado radica en que una persona no necesita usar Copilot para verse afectada; basta con que cualquier otra persona suba una foto grupal donde aparezca su rostro sin su conocimiento para que los contratistas externos la examinen. A pesar de que Microsoft advierte contra compartir las fotos de otros sin su consentimiento, no ofrece ningún obstáculo técnico que evite que esto suceda.
Defensores de los derechos digitales exigen que se obligue a Microsoft y a las grandes empresas tecnológicas a establecer opciones claras para los usuarios que les permitan desactivar la revisión humana, e imponer protocolos de cifrado automático que oculten los rostros y los datos personales antes de que lleguen a los equipos de evaluación externos.
Preguntas frecuentes
Pregunta: ¿Qué reveló la investigación de 404 Media sobre las fotos de los usuarios de Microsoft Copilot?
Respuesta: La investigación reveló que cientos de contratistas ven las fotos personales subidas con rostros completamente visibles sin difuminar y sin la posibilidad de rechazar la inspección.
Pregunta: ¿Cuáles son las tareas asignadas a los contratistas al revisar fotos y conversaciones?
Respuesta: Se les pide que comparen las modificaciones de la inteligencia artificial y elijan la mejor según la apariencia de la imagen y su grado de coincidencia con la solicitud del usuario.
Pregunta: ¿Puede el usuario cancelar la revisión humana de sus datos y fotos en Copilot?
Respuesta: Microsoft confirmó explícitamente en sus políticas que la opción de cancelar la revisión humana no está disponible para los usuarios.
