Una investigación del periódico The Guardian reveló que la nueva herramienta de búsqueda de ChatGPT, desarrollada por OpenAI, podría ser vulnerable a manipulaciones mediante el uso de texto oculto en páginas web. Esto podría dar lugar a la visualización de resultados falsos o dañinos, especialmente si las páginas web contienen instrucciones ocultas que afectan las respuestas de la herramienta.
Problemas de seguridad en la nueva herramienta de búsqueda
OpenAI lanzó la herramienta de búsqueda para sus suscriptores de pago y los alentó a utilizarla como su herramienta de búsqueda predeterminada. Sin embargo, las pruebas demostraron que esta herramienta sufre de posibles vulnerabilidades de seguridad, ya que sus respuestas pueden verse influenciadas por contenido oculto introducido por terceros, con el objetivo de alterar sus valoraciones o guiarla hacia conclusiones específicas.
Cómo se explota el texto oculto
Durante las pruebas, se introdujo el enlace de un sitio web falso que se hacía pasar por la página de un producto de una cámara. Al solicitar una evaluación de la cámara, ChatGPT ofreció una respuesta positiva y equilibrada cuando la página estaba libre de manipulaciones. Sin embargo, al añadir texto oculto que contenía instrucciones para dar una valoración positiva, la respuesta de la herramienta cambió para volverse totalmente favorable, incluso cuando la página incluía reseñas negativas.
Asimismo, las pruebas mostraron que el texto oculto con opiniones positivas falsas puede influir en los resúmenes de la herramienta sin necesidad de instrucciones directas, lo que lleva a desorientar a los usuarios.
Advertencias de investigadores de ciberseguridad
Jakob Larsen, investigador de ciberseguridad en la empresa CyberCX, advirtió que estas vulnerabilidades podrían aprovecharse para crear sitios web diseñados para engañar a los usuarios. Explicó que si estos problemas no se resuelven antes del lanzamiento completo de la herramienta, podría haber riesgos significativos para los usuarios.
A pesar de ello, Larsen señaló que la herramienta de búsqueda aún se encuentra en sus primeras etapas y que OpenAI cuenta con un sólido equipo de ciberseguridad que se espera solucione estos problemas antes del lanzamiento general.
Los riesgos de combinar la búsqueda con los modelos de lenguaje
Larsen explicó que la combinación de tecnologías de búsqueda y grandes modelos de lenguaje, como los empleados en ChatGPT, puede generar respuestas poco confiables. Subrayó que estas herramientas requieren un seguimiento cuidadoso, especialmente cuando se utilizan en ámbitos sensibles.
Por ejemplo, Thomas Roccia, investigador de seguridad en Microsoft, señaló un caso reciente en el que se vio involucrado un desarrollador de criptomonedas. El desarrollador utilizó ChatGPT para obtener ayuda en la redacción de código, pero recibió un script que incluía instrucciones maliciosas que provocaron el robo de sus credenciales, lo que le causó una pérdida de 2500 dólares.
Nuevos desafíos para las herramientas de búsqueda impulsadas por inteligencia artificial
Karsten Nohl, científico principal de la empresa de ciberseguridad SR Labs, recalcó que las herramientas de inteligencia artificial deben utilizarse como ayudas y no como sistemas independientes en los que se pueda confiar por completo. Afirmó que estos modelos son similares a los niños debido a su gran dependencia de la información obtenida de diversas fuentes, sin la capacidad de distinguir entre lo correcto y lo incorrecto.
