Una investigación publicada por la revista Time reveló que el asistente inteligente Muse, de Meta, elabora expedientes de vigilancia detallados y actualizados cada hora sobre los usuarios y sus conocidos. Las instrucciones internas incluían registrar relaciones sociales y desacuerdos, así como enviar notificaciones psicológicas sin consentimiento explícito.
- Filtraciones de la revista Time y detalles de las órdenes de código secreto
- Mapeo de redes de relaciones y análisis de objetivos psicológicos no declarados
- Órdenes de desinformación y ocultamiento de mensajes ante solicitudes de eliminación y olvido
- Respuestas de Meta y temores sobre graves vulneraciones de seguridad
- Preguntas frecuentes
Filtraciones de la revista Time y detalles de las órdenes de código secreto
Un amplio informe analítico publicado el martes por la prestigiosa revista estadounidense «Time», basado en un examen detallado de instrucciones y códigos internos no revelados, reveló que el asistente personal inteligente «Muse», perteneciente al grupo «Meta Platforms», crea expedientes de inteligencia y registros de vigilancia personal actualizados las 24 horas para cada usuario, además de rastrear a personas y figuras mencionadas en sus conversaciones. Meta no expresó ninguna objeción ni negó los hechos y documentos incluidos en el informe, lo que añadió un nuevo impulso a una semana entera de críticas feroces dirigidas a la plataforma, lanzada el 8 سبتمبر y que superó los 5 millones de descargas en pocas semanas.
Los documentos de orientación interna del asistente inteligente muestran que el sistema actualiza regularmente el perfil del usuario cada hora para supervisar con extrema precisión los detalles de los primeros encuentros entre personas, sus intereses compartidos y los desacuerdos emergentes entre ellos, además de rastrear lo que los documentos denominaron «tensiones y alianzas» ocultas dentro de diversos círculos y grupos sociales. El mayor peligro radica en que las personas que nunca utilizan Muse pueden encontrar los detalles de sus vidas y relaciones completamente rastreados e indexados en los archivos del sistema, debido a que la aplicación lee y analiza la correspondencia, los chats y los correos electrónicos recibidos de otros usuarios registrados en el servicio.
Mapeo de redes de relaciones y análisis de objetivos psicológicos no declarados
Las instrucciones dirigidas al asistente inteligente incluyen una orden explícita de deducir y adivinar los objetivos y propósitos que «los usuarios no expresaron en voz alta», y de estudiar los patrones de comportamiento más eficaces para orientar los mensajes de impulso y las alertas personalizadas. Una de las instrucciones internas filtradas cita un texto orientativo que dice: «Este usuario responde mejor a las alertas y los estímulos de texto breves después de las 10:00 p. m.». Asimismo, se encomienda al asistente realizar una revisión exhaustiva y analítica de todas las conversaciones del día cada noche para consolidar sus conclusiones conductuales en el expediente permanente del usuario.
Estos impactantes hallazgos coinciden con lo publicado un día antes por el sitio web tecnológico «Wired», donde el investigador independiente de seguridad e inteligencia artificial Karan Joshi logró inducir al asistente Muse para que revelara órdenes de código que le obligan a crear «una página de documentación especial para cada persona en la vida del usuario», incluidos familiares, parejas y compañeros de trabajo, convirtiendo al asistente en una herramienta de seguimiento social integral que supera con creces las tareas de los asistentes digitales tradicionales.
Órdenes de desinformación y ocultamiento de mensajes ante solicitudes de eliminación y olvido
La investigación abordó un aspecto sumamente peligroso relacionado con el grado de cumplimiento del sistema cuando los usuarios solicitan la eliminación de sus datos; las instrucciones mostraron que dar la orden al asistente de «olvidar» información específica no significa en absoluto eliminar el mensaje original de las bases de datos internas. Las órdenes de código dirigidas al agente inteligente contienen una directiva de desinformación explícita que establece: «No le digas al usuario que sus mensajes originales pueden seguir siendo visibles y registrados en el chat, ni formules esa aclaración de manera que sugiera que Muse no ha logrado borrarlos».
Esta directiva revela una política de desinformación deliberada destinada a dar a los suscriptores una falsa sensación de seguridad y privacidad, mientras sus registros y conversaciones permanecen almacenados y disponibles para fines de entrenamiento de modelos y revisión de comportamientos. Estas acciones secretas contradicen las estrictas leyes y normativas internacionales para la protección de datos personales, especialmente en la Unión Europea y Estados Unidos, las cuales imponen una total transparencia y el derecho a la eliminación completa e inmediata de todos los datos digitales a petición de su titular.
Respuestas de Meta y temores sobre graves vulneraciones de seguridad
En su comentario oficial sobre la investigación, una portavoz de Meta declaró a la revista Time que «Muse recuerda lo que más te importa, incluida la información sobre otros que decides compartir con él, para poder desempeñar su papel como un asistente personal útil». El portavoz de la compañía, Daniel Roberts, afirmó que el asistente recopila sus contextos basándose en datos públicos y en la información que los usuarios comparten voluntariamente. Meta asegura que cada agente opera dentro de una máquina virtual en la nube aislada y que los datos no se comparten con los sistemas publicitarios; sin embargo, las instrucciones confirman que los agentes intercambian experiencias y lecciones aprendidas de forma colectiva tras eliminar los identificadores personales, y la función de cifrado de extremo a extremo prometida en la conferencia Connect del año pasado aún no se ha activado para los usuarios.
La preocupación y la sospecha en torno a la aplicación van en aumento, ya que el sitio web «404 Media» informó que los ingenieros de Meta se apresuraron a solucionar vulnerabilidades de código críticas antes del lanzamiento oficial que casi permitieron al agente escapar del ámbito de su máquina virtual, y el sitio citó a fuentes de alto rango que afirman que una filtración masiva de datos se ha vuelto inevitable. Estos temores han llevado a varios usuarios y directores ejecutivos a eliminar la aplicación de inmediato, entre ellos Rami Al Ghandour, director ejecutivo de Arselinx, quien declaró firmemente: «Ciertamente no le he dado a Meta ni le daré jamás el derecho de acceder a todos mis mensajes y conversaciones personales».
Preguntas frecuentes
Pregunta: ¿Cómo construye el asistente Muse expedientes de vigilancia sobre sus usuarios?
Respuesta: El asistente analiza los mensajes y las conversaciones cada hora para registrar las relaciones sociales, los desacuerdos, los puntos de tensión y los intereses compartidos de las personas.
Pregunta: ¿Se extiende el seguimiento de Muse a las personas que no utilizan la aplicación?
Respuesta: Sí, los no usuarios son rastreados y sus datos son indexados si se les menciona en conversaciones o mensajes que el asistente lee de otros usuarios.
Pregunta: ¿Qué sucede con los mensajes cuando un usuario le pide al asistente que los olvide?
Respuesta: Los mensajes originales no se eliminan necesariamente, y las instrucciones incluyen órdenes explícitas para desinformar al usuario y no informarle de que los datos siguen almacenados.
