La afirmación de proteger la privacidad de las conversaciones contrasta totalmente con la exposición de los textos personales de los usuarios y la visualización del resumen de sus recuerdos sensibles ante los ojos de revisores externos.
Índice del artículo:
- Presentación de la demanda colectiva en los tribunales estadounidenses
- Detalles del escándalo de Project Lily y la investigación de 404 Media
- Fallo de los filtros de privacidad y exposición de los recuerdos de los usuarios
- Reglas de evaluación de conversaciones y prevención de la hipocresía y riesgos legales
- Dilemas legales en Europa y las multas previas en Italia
- Mecanismo de desactivación del entrenamiento de modelos y el dilema retroactivo
- Preguntas frecuentes
Presentación de la demanda colectiva en los tribunales estadounidenses
Un grupo de usuarios del popular chatbot «ChatGPT» presentó el miércoles una propuesta de demanda colectiva contra «OpenAI», acusando a la empresa de engaño y fraude deliberado sobre el nivel de confidencialidad y privacidad de sus conversaciones personales, según informó la red jurídica especializada «Le 360».
Esta demanda se produce tras una revelación periodística investigativa documentada que demostró que OpenAI pagó sumas cuantiosas a cientos de contratistas y revisores externos a una tarifa superior a 50 dólares la hora para leer, resumir y evaluar conversaciones reales de los clientes de la plataforma, en el marco de un programa interno secreto bajo el nombre en clave «Project Lily».
Detalles del escándalo de Project Lily y la investigación de 404 Media
La demanda se basó en una investigación periodística publicada por el periodista Joseph Cox a través de la plataforma «404 Media» el 14 de septiembre, fundamentada en documentos filtrados, pruebas de entrenamiento internas y conversaciones reales de usuarios. El informe reveló la existencia de un conducto de revisión humana organizado donde el empleado lee la consulta del usuario, resume su intención exacta y luego evalúa cuatro respuestas alternativas generadas por el robot en una escala de 1 a 7 puntos.
El proceso de evaluación no busca verificar la veracidad de los hechos, sino que instruye a los revisores a sancionar el «lenguaje artificial de la inteligencia artificial», marcar con alertas si el robot finge emociones humanas y castigar aquellas respuestas aduladoras e hipócritas que OpenAI teme que puedan involucrarla en demandas por daños psicológicos.
Fallo de los filtros de privacidad y exposición de los recuerdos de los usuarios
La demanda afirmó que las defensas de OpenAI sobre la eliminación de nombres explícitos y el paso de los textos a través de un filtro de privacidad automatizado son endebles e ineficaces, ya que la propia empresa reconoció en sus documentos internos que el filtro automático pasa por alto identificadores raros y datos implícitos precisos.
Aún más grave, varios revisores informaron que los paneles de control en los que trabajan muestran el «resumen de recuerdos del usuario», lo cual revela la profesión de la persona, su ubicación geográfica aproximada y sus secretos familiares extraídos de sesiones anteriores. Un contratista declaró claramente: «No creo que ninguno de los 900 millones de usuarios imagine que un contratista está sentado en algún lugar analizando los detalles de su vida».
Reglas de evaluación de conversaciones y prevención de la hipocresía y riesgos legales
Este nuevo caso se suma a un historial judicial pesado y concurrido que persigue a OpenAI ante la justicia estadounidense; la empresa se enfrenta a múltiples demandas relacionadas con homicidio culposo y causación de muertes debido a la provisión de consejos psicológicos erróneos, además de grandes demandas por violación de derechos de propiedad intelectual y entrenamiento de modelos con contenido protegido sin licencia.
Asimismo, la compañía mantiene una disputa legal independiente en el estado de California bajo la acusación de compartir los datos de sus usuarios con terceros y empresas de marketing mediante herramientas de rastreo digital integradas sin contar con un consentimiento legal explícito e informado.
Dilemas legales en Europa y las multas previas en Italia
Estas filtraciones imponen una presión regulatoria creciente sobre la empresa dentro de la Unión Europea; la autoridad de protección de datos de Italia ya había impuesto previamente una multa de 15 millones de euros a OpenAI por procesar datos de usuarios sin una base legal suficiente.
Del mismo modo, una sentencia del Tribunal de Justicia de la Unión Europea en el caso del Supervisor Europeo de Protección de Datos establece un principio jurídico vinculante que estipula que el deber de las empresas de informar a los usuarios de manera transparente sobre cómo procesan y entrenan sus modelos con los datos de estos se aplica en el momento mismo de la recolección de los datos, y no mediante notificaciones posteriores y ambiguas.
Mecanismo de desactivación del entrenamiento de modelos y el dilema retroactivo
OpenAI aplica la opción de «mejorar el modelo para todos» de forma predeterminada y automática en las cuentas gratuitas de ChatGPT y en los planes Plus y Pro, mientras que solo la deshabilita por defecto en los planes para grandes empresas e instituciones educativas.
Aunque el usuario puede desactivar la función manualmente a través de la configuración y los controles de datos, la demanda señala que este procedimiento complejo carece de transparencia y no tiene ningún efecto retroactivo, lo que significa que millones de conversaciones y datos sensibles que fueron recopilados y sometidos a revisión humana previamente no pueden ser recuperados ni borrados por los usuarios de las bases de datos de entrenamiento.
Preguntas frecuentes
Pregunta: ¿Cuál es la base legal de la demanda colectiva interpuesta contra OpenAI?
Respuesta: Engañar a los usuarios haciéndoles creer que sus conversaciones gozan de total privacidad mientras cientos de revisores externos las leen en el marco de Project Lily.
Pregunta: ¿Cuál es la naturaleza de los datos sensibles a los que accedieron los revisores en ChatGPT?
Respuesta: Accedieron a textos de conversaciones completas y al resumen de recuerdos del usuario, incluyendo su profesión, ubicación aproximada y antecedentes personales.
Pregunta: ¿Protegerá la desactivación de la opción de mejora del modelo las conversaciones anteriores frente a la revisión?
Respuesta: No, la anulación de la opción solo previene el uso de futuras conversaciones y no elimina las conversaciones antiguas que ya fueron extraídas para el entrenamiento.
