Contenido del artículo:
- Introducción: el navegador se convierte en el próximo campo de batalla para la inteligencia artificial
- ¿Qué es “Claude para Chrome” y cómo funciona?
- Carrera intensa: Perplexity, OpenAI y Google
- Agentes de inteligencia artificial y los nuevos riesgos de seguridad
- Defensas de Anthropic: ¿cómo protege a los usuarios?
- Pasado y futuro: la evolución de los agentes de inteligencia artificial
- Conclusión: un paso hacia un futuro de la inteligencia artificial más integrado
Introducción: el navegador se convierte en el próximo campo de batalla para la inteligencia artificial
En un movimiento que intensifica la competencia en el mundo de la inteligencia artificial, Anthropic anunció el lanzamiento de una vista previa de investigación de un agente de inteligencia artificial basado en sus modelos Claude y que opera directamente dentro del navegador Chrome. El agente se llama “Claude para Chrome” (Claude for Chrome) y su objetivo es ofrecer una conexión más fluida entre los sistemas de inteligencia artificial y los usuarios, convirtiendo al navegador en el próximo campo de batalla entre los principales laboratorios de inteligencia artificial.
¿Qué es “Claude para Chrome” y cómo funciona?
Mediante la adición de una extensión (extension) a Chrome, los usuarios seleccionados ahora pueden chatear con Claude en un panel lateral que mantiene el contexto de todo lo que sucede en su navegador. Esto significa que Claude puede “ver” la página que estás navegando y ayudarte en función de ella. Lo más importante es que los usuarios pueden otorgar al agente de Claude permiso para realizar acciones en su navegador y completar ciertas tareas en su nombre, como rellenar formularios o resumir artículos largos.
Carrera intensa: Perplexity, OpenAI y Google
Anthropic no está sola en esta carrera. Perplexity lanzó recientemente su propio navegador, Comet, que cuenta con un agente de inteligencia artificial capaz de realizar tareas para los usuarios. Se rumorea que OpenAI está a punto de lanzar su propio navegador impulsado por inteligencia artificial, el cual se dice que incluye características similares. Mientras tanto, Google ha lanzado integraciones de Gemini con Chrome en los últimos meses. Esta carrera es especialmente apretada dado el caso antimonopolio al que se enfrenta Google, el cual podría obligarla a vender el navegador Chrome.
Agentes de inteligencia artificial y los nuevos riesgos de seguridad
Anthropic ha advertido que la aparición de agentes de inteligencia artificial con acceso al navegador plantea nuevos riesgos de seguridad. La semana pasada, el equipo de seguridad del navegador Brave afirmó haber descubierto que el agente del navegador Comet podría ser vulnerable a ataques de “inyección de instrucciones indirectas”, donde un código oculto en un sitio web puede engañar al agente para que ejecute instrucciones maliciosas. Anthropic espera utilizar esta vista previa de investigación como una oportunidad para descubrir y abordar los nuevos riesgos de seguridad.
Defensas de Anthropic: ¿cómo protege a los usuarios?
Anthropic ya ha introducido varias defensas contra los ataques de inyección de instrucciones. La compañía afirma que sus intervenciones redujeron la tasa de éxito de estos ataques del 23.6% al 11.2%. Por ejemplo, los usuarios pueden restringir el acceso del agente de Claude a sitios web específicos en la configuración. Asimismo, la compañía ha bloqueado de forma predeterminada el acceso de Claude a sitios web que ofrecen servicios financieros, contenido para adultos y contenido pirateado. Además, el agente de Claude solicitará el permiso del usuario antes de “realizar acciones de alto riesgo como publicar, comprar o compartir datos personales”.
Pasado y futuro: la evolución de los agentes de inteligencia artificial
Este no es el primer intento de Anthropic con agentes de inteligencia artificial. En octubre de 2024, la compañía lanzó un agente capaz de controlar tu computadora, pero las pruebas realizadas en ese momento revelaron que el modelo era lento y poco fiable. Las capacidades de los modelos de inteligencia artificial basados en agentes han mejorado mucho desde entonces. Los agentes modernos de inteligencia artificial que utilizan el navegador se han vuelto razonablemente fiables para completar tareas sencillas, pero aún tienen dificultades con los problemas más complejos.
Conclusión: un paso hacia un futuro de la inteligencia artificial más integrado
El lanzamiento de “Claude para Chrome” representa otro paso hacia un futuro en el que la inteligencia artificial esté perfectamente integrada en nuestras herramientas digitales cotidianas. En lugar de ser una aplicación independiente, la inteligencia artificial se convierte en un asistente consciente del contexto que puede interactuar con nuestro mundo digital en nuestro nombre. Sin embargo, con este gran poder viene una gran responsabilidad para garantizar la seguridad y protección. La forma en que Anthropic y otras empresas aborden estos desafíos será crucial para determinar si el futuro de los agentes inteligentes será beneficioso o estará plagado de riesgos.
Preguntas frecuentes
P: ¿Quién puede usar “Claude para Chrome” ahora?
R: Actualmente se está implementando para un grupo pequeño de 1,000 suscriptores del plan Max de Anthropic. La compañía también ha abierto una lista de espera para otros usuarios interesados.
P: ¿Qué es la “inyección de instrucciones indirectas”?
R: Es un tipo de ciberataque en el que se ocultan instrucciones maliciosas en contenido (como una página web) que el agente de inteligencia artificial procesa. Estas instrucciones pueden engañar al agente para que realice acciones que el usuario no pretendía, como filtrar información personal.
P: ¿Reemplazarán estos agentes a los navegadores tradicionales?
R: Es poco probable que los reemplacen por completo en el corto plazo, pero es muy probable que se integren profundamente en ellos, cambiando fundamentalmente la forma en que interactuamos con la web.
