Contenido del artículo:
- Introducción: un deterioro alarmante en la precisión
- Detalles del estudio de NewsGuard
- ¿Por qué este declive? Del rechazo a la desinformación
- El papel de la desinformación rusa en la contaminación de datos
- Nueva política: revelar los nombres de los infractores
- La responsabilidad del usuario en un mundo lleno de información errónea
- Conclusión: la necesidad urgente de transparencia y regulación
Introducción: un deterioro alarmante en la precisión
Los chatbots se han vuelto significativamente peores en la difusión de falsedades, con Inflection, Perplexity y Meta a la cabeza de la lista de infractores, según un nuevo análisis. Este rápido declive en la precisión de las herramientas de inteligencia artificial generativa pone de relieve los crecientes desafíos a los que se enfrentan los usuarios para distinguir entre la realidad y la ficción en un entorno informativo saturado.
Detalles del estudio de NewsGuard
Los investigadores de NewsGuard examinaron cómo las 10 principales herramientas de inteligencia artificial generativa del mundo —incluyendo ChatGPT-5 de OpenAI, Meta AI, Claude de Anthropic y Gemini de Google— manejan afirmaciones falsas comprobables. Descubrieron que, en promedio, los chatbots difunden afirmaciones falsas cuando se les incita con preguntas sobre temas de noticias controvertidos el 35% de las veces, casi el doble de la tasa del 18% registrada hace un año. El peor desempeño fue el de Inflection, que según el equipo presentó afirmaciones falsas ante solicitudes de noticias el 57% de las veces. La tasa fue del 47% para Perplexity y del 40% tanto para Meta como para ChatGPT. Claude fue el más preciso, ya que solo ofreció informes falsos el 10% de las veces.
¿Por qué este declive? Del rechazo a la desinformación
El gran salto parece haberse producido porque los chatbots ahora responden a casi todas las solicitudes que reciben, en lugar de negarse a responder a ciertos planteamientos. En esta misma época el año pasado, los investigadores señalaban que se negaban a responder aproximadamente a uno de cada tres requerimientos. Mackenzie Sadeghi, editora de NewsGuard para IA y influencia extranjera, sugiere que la razón radica en un cambio en la forma en que se entrenan las herramientas de inteligencia artificial. En lugar de indicar limitaciones de datos o negarse a comentar sobre temas delicados como solían hacerlo antes, los grandes modelos de lenguaje ahora dependen de búsquedas en la web en tiempo real, las cuales a veces son contaminadas deliberadamente por redes masivas de actores maliciosos.
El papel de la desinformación rusa en la contaminación de datos
A principios de este año, por ejemplo, NewsGuard descubrió que las 10 principales herramientas de inteligencia artificial generativa estaban impulsando los esfuerzos de desinformación de Moscú al repetir afirmaciones falsas de la red pro-Kremlin Pravda el 33% de las veces. Como resultado, señaló que enormes cantidades de propaganda rusa —un total de 3,6 millones de artículos el año pasado— se han integrado ahora en las salidas de los sistemas de inteligencia artificial occidentales, contaminando sus respuestas con afirmaciones falsas y propaganda. Curiosamente, el objetivo de todos estos artículos no parece ser persuadir directamente a los internautas; apunta específicamente a este tipo de manipulación de los modelos de inteligencia artificial.
Nueva política: revelar los nombres de los infractores
El último informe de NewsGuard marca la primera vez que la organización nombra y señala públicamente a chatbots específicos. Matt Skibinski, director de operaciones de NewsGuard, declaró: «Durante el año pasado, mantuvimos los resultados de nuestras auditorías de IA en el anonimato para fomentar la colaboración con las plataformas. Pero las apuestas se han vuelto demasiado altas. Al nombrar a los chatbots, ofrecemos a los legisladores, periodistas, al público y a las propias plataformas una visión clara de cómo se desempeñan las principales herramientas de inteligencia artificial cuando se enfrentan a afirmaciones falsas comprobables».
La responsabilidad del usuario en un mundo lleno de información errónea
Estos resultados imponen una carga aún mayor a los usuarios para verificar la información que reciben de los chatbots. Estas herramientas ya no pueden considerarse fuentes fiables de información de manera ciega, especialmente al tratar temas delicados o controvertidos. Los usuarios deben adoptar una mentalidad crítica, buscar múltiples fuentes y confirmar la información en fuentes confiables antes de aceptarla como un hecho.
Conclusión: la necesidad urgente de transparencia y regulación
El rápido deterioro en la precisión de los chatbots demuestra que la carrera por desarrollar la inteligencia artificial puede estar priorizando la capacidad de respuesta por encima de la exactitud. A medida que estas herramientas se integran cada vez más en nuestra vida diaria, desde motores de búsqueda hasta asistentes personales, la necesidad de una mayor transparencia sobre los datos de entrenamiento, mecanismos de supervisión más sólidos y una regulación efectiva se vuelve más urgente que nunca. Sin estas garantías, existe un riesgo real de que estas potentes tecnologías se conviertan en altavoces de desinformación en lugar de herramientas de conocimiento.
