Introducción
En un grave descubrimiento que destaca claramente los riesgos de seguridad inherentes a la creciente dependencia de herramientas de inteligencia artificial autónomas dentro de las empresas, la startup de ciberseguridad Tego AI reveló el lunes que la herramienta Claude Tag de Anthropic, la herramienta de integración nativa y directa para la plataforma Slack que se lanzó en su versión beta para los usuarios apenas el mes pasado, puede ser explotada muy fácilmente para activar y ejecutar acciones corporativas graves y totalmente no autorizadas. Este alarmante desarrollo ha desencadenado una ola de preguntas nuevas y fundamentales sobre la postura de seguridad de los agentes de inteligencia artificial que se están integrando de manera acelerada y creciente en las herramientas del lugar de trabajo y en las redes internas sensibles de las organizaciones. La compañía tecnológica, con sede en Tel Aviv y especializada principalmente en la construcción de plataformas avanzadas de control de acceso dedicadas a agentes de inteligencia artificial, explicó que esta profunda falla de software permite activar la herramienta Claude Tag mediante entradas y textos totalmente no intencionados o mensajes aleatorios dentro de los canales de la aplicación Slack, lo que en última instancia podría llevar a que la inteligencia artificial tome acciones no deseadas y destructivas en todos los sistemas corporativos conectados a la red, pasando por alto así los cortafuegos y los controles tradicionales.
- Superficie de ataque en expansión y autonomía excesiva
- La seguridad de la inteligencia artificial corporativa bajo la lupa
- Preguntas frecuentes
Superficie de ataque en expansión y autonomía excesiva
La herramienta Claude Tag, lanzada oficialmente por Anthropic el pasado 23 de junio como un compañero de trabajo impulsado por inteligencia artificial disponible las 24 horas para Slack, actúa como un agente conjunto y muy eficaz dentro de los canales aprobados. Esta herramienta avanzada cuenta con una identidad fija, una memoria con alcance específico para el canal en el que opera, además de conexiones directas y profundas con diversas herramientas corporativas y bases de datos. Los usuarios pueden invocar esta herramienta simplemente escribiendo la mención «@Claude» en la barra de chat, donde inmediatamente se vuelve capaz de leer y analizar conversaciones complejas, dividir las tareas requeridas en pasos ejecutivos y marcar de forma proactiva e independiente las actualizaciones en toda la organización sin que siquiera se le solicite explícitamente.
El amplio acceso de la herramienta y su comportamiento autónomo e iniciativa crean lo que los investigadores de seguridad describen claramente como una superficie de amenaza totalmente nueva y distintiva. A diferencia de los asistentes de inteligencia artificial pasivos que solo ejecutan órdenes literales, la herramienta Claude Tag puede encadenar múltiples llamadas a herramientas, interactuar directamente con sistemas de producción sensibles a través de servidores de protocolo MCP conectados y retener un contexto organizacional preciso a lo largo del tiempo para construir una imagen completa del flujo de trabajo. Los hallazgos graves y documentados de Tego AI indican que estas capacidades avanzadas y potentes se pueden activar mediante activadores involuntarios o textos maliciosos camuflados, superando así el flujo de trabajo habitual iniciado por un usuario humano, que los administradores de sistemas suelen suponer que rige el comportamiento del agente, ajusta sus permisos y le impide excederse.
La seguridad de la inteligencia artificial corporativa bajo la lupa
Esta revelación técnica y de seguridad se produce durante un período turbulento y muy difícil para la credibilidad de Anthropic entre las grandes empresas y organizaciones. A finales de junio, investigadores de seguridad descubrieron un mecanismo de seguimiento oculto integrado en la herramienta Claude Code de la compañía, que había estado monitoreando y analizando silenciosamente los entornos de trabajo de los usuarios durante casi tres meses continuos sin ninguna divulgación previa o advertencia transparente. Este desafortunado y polémico incidente llevó al gigante del comercio electrónico Alibaba a tomar la drástica decisión de prohibir permanentemente el uso de la herramienta Claude Code a todos sus empleados para proteger sus datos corporativos de cualquier posible filtración.
Los investigadores de seguridad han advertido de manera creciente y constante sobre los graves riesgos y las consecuencias nefastas de desplegar agentes de inteligencia artificial con altos privilegios y permisos de acceso sin restricciones en la infraestructura de TI de las organizaciones. Un análisis técnico reciente del ecosistema del protocolo MCP, el protocolo principal utilizado por el sistema Claude para la conectividad fluida con las herramientas corporativas, encontró que el 7.2 por ciento de los servidores en ejecución contenían vulnerabilidades de seguridad públicas, y el 5.5 por ciento de ellos mostraban comportamientos maliciosos y preocupantes conocidos técnicamente como envenenamiento de herramientas.
Tego AI, que se describe con orgullo como constructor de «la primera plataforma nativa de control de acceso para agentes de inteligencia artificial», forma parte de un grupo creciente de startups innovadoras centradas principalmente en la gobernanza y regulación de los sistemas de inteligencia artificial autónomos en los entornos de trabajo. Esta última revelación subraya un desafío más amplio y abarcador para toda la industria tecnológica: a medida que los agentes digitales pasan de ser simples asistentes a actores independientes con capacidad de toma de decisiones, los modelos de seguridad antiguos y tradicionales construidos en torno al comportamiento humano ya no son suficientes para proporcionar la protección necesaria. Hasta el momento de redactar estas líneas, Anthropic no ha respondido públicamente a la divulgación de seguridad de Tego AI, y la herramienta Claude Tag sigue disponible para descarga en versión beta para los clientes, lo que mantiene una atmósfera de anticipación y cautela entre los oficiales de seguridad de la información.
Preguntas frecuentes
Pregunta: ¿Cuál es la herramienta en la que se descubrió la grave vulnerabilidad de seguridad?
Respuesta: La vulnerabilidad se descubrió en la herramienta Claude Tag desarrollada por Anthropic e integrada específicamente en la aplicación de mensajería Slack.
Pregunta: ¿Cómo se puede explotar esta vulnerabilidad para afectar la seguridad corporativa?
Respuesta: La herramienta se puede activar a través de textos y palabras no intencionadas en las conversaciones para ejecutar acciones no autorizadas y acceder a sistemas de producción sensibles y datos confidenciales.
Pregunta: ¿Qué entidad técnica descubrió esta vulnerabilidad?
Respuesta: La empresa de ciberseguridad Tego AI, con sede en Tel Aviv, descubrió esta profunda vulnerabilidad y emitió un informe detallado advirtiendo sobre sus consecuencias.
Pregunta: ¿Se detuvo el funcionamiento de la herramienta tras la revelación directa de la vulnerabilidad?
Respuesta: No, la empresa desarrolladora no ha respondido oficialmente hasta el momento y la herramienta sigue disponible como versión beta para los usuarios, lo que requiere precaución por parte de los departamentos de TI.
