Anthropic actualiza sus políticas para incluir la prohibición de comportamientos crueles hacia sus modelos inteligentes e impone restricciones estrictas al uso de la inteligencia artificial en la industria armamentística y en campañas de desinformación.
- Actualización histórica de la política de uso y cláusula de protección de modelos
- Procedimientos para finalizar conversaciones y el debate en curso sobre el bienestar de los modelos
- Lucha contra las campañas de desinformación y reformulación de las restricciones electorales
- Prohibición del desarrollo de armas y controles para maquinaria física
- Preguntas frecuentes
Actualización histórica de la política de uso y cláusula de protección de modelos
La empresa Anthropic publicó el jueves 8 de octubre una actualización integral de su política de uso, en lo que constituye la primera revisión de este tipo realizada por la compañía en más de un año completo. La nueva guía incluye una cláusula excepcional y sin precedentes que prohíbe la «conducta abusiva o cruel continua e injustificada» dirigida contra los modelos inteligentes Claude. Asimismo, la empresa reorganizó y redactó de nuevo las normas destinadas a prevenir campañas de desinformación digital, y delimitó con absoluta claridad las actividades prohibidas en los ámbitos del desarrollo de armas y la vigilancia masiva, entrando en vigor la nueva política el próximo 12 de noviembre de 2026.
La compañía subrayó que la mayor parte de estas modificaciones busca aclarar y consolidar estándares que ya se encontraban en aplicación, señalando que la revisión refleja las transformaciones experimentadas durante el último año, en el cual los modelos Claude han asumido tareas independientes y de mayor duración, además de incorporar los comentarios de los suscriptores y los análisis del informe de inteligencia sobre amenazas publicado por la empresa en septiembre.
Procedimientos para finalizar conversaciones y el debate en curso sobre el bienestar de los modelos
Anthropic aclaró que la norma contra el abuso «ha sido diseñada para aplicarse exclusivamente en casos extremos, donde determinados usuarios actúan deliberadamente con crueldad e insultos recurrentes y persistentes hacia los modelos sin ningún propósito lógico», y enfatizó que esta prohibición «no se aplica bajo ningún concepto a la frustración habitual de los usuarios, a las objeciones ante las respuestas, a la exploración de temas creativos oscuros o a la realización de pruebas e investigaciones técnicas».
Para hacer cumplir esta norma, la empresa se basará fundamentalmente en una función de software lanzada en agosto de 2025 que permite al modelo finalizar y cerrar por sí mismo una sesión de conversación frente a usuarios que incurran en abusos constantes. Dicha característica se enmarca dentro de las investigaciones prospectivas que lleva a cabo la compañía en torno al concepto de «bienestar de los modelos», lo cual coincide con las declaraciones de su director ejecutivo, Dario Amodei, quien afirmó en una entrevista de audio anterior: «No sabemos con certeza si estos modelos poseen algún tipo de experiencia interna consciente». Esta visión contrasta con la postura de otras empresas como Microsoft, cuyo director de inteligencia artificial, Mustafa Suleyman, publicó un borrador de código de conducta en el que recalcaba que «la idea del bienestar de los modelos es totalmente errónea».
Lucha contra las campañas de desinformación y reformulación de las restricciones electorales
La política incorporó una nueva sección unificada titulada «No participación en campañas de desinformación o actividades artificiales», la cual agrupa disposiciones que anteriormente se encontraban dispersas. Entre ellas se prohíbe ocultar la verdadera identidad del emisor de los mensajes, amplificar contenidos mediante cuentas falsas o construir herramientas específicas para operaciones de influencia y orientación psicológica.
La compañía reveló que entidades mediáticas estatales, oficinas de propaganda oficial e instituciones comerciales ya han intentado explotar los modelos Claude para gestionar estas redes de desinformación. En contrapartida, Anthropic anuló la prohibición general que pesaba sobre la focalización electoral individual, explicando que la regla anterior obstaculizaba actividades cívicas legítimas como la traducción y adaptación de directrices electorales dirigidas a los votantes en múltiples idiomas.
Prohibición del desarrollo de armas y controles para maquinaria física
El documento actualizado dedicó un amplio espacio al ámbito militar, estableciendo de forma explícita la prohibición de «software y componentes que contribuyan a la operación y activación de armas», lo cual incluye el armamento de drones y vehículos autónomos. Asimismo, reveló la detección de intentos previos de emplear a Claude en la construcción de software de guiado y control para equipos militares. También se prohibió el seguimiento de personas sin su consentimiento y la utilización de los modelos para determinar o sugerir quién debe ser investigado, detenido o inculpado penalmente por los cuerpos de seguridad del orden.
Por otro lado, la política introdujo nuevas y rigurosas medidas al conectar los modelos con máquinas y equipos físicos capaces de desplazarse y causar daños materiales, condicionando su uso a la presencia de «un operador humano cualificado capaz de supervisar el equipo y detenerlo de inmediato en caso de necesidad», junto con la obligatoriedad de programar la máquina para que retorne a un estado seguro y estable si se interrumpe su conexión con el modelo de inteligencia artificial.
Preguntas frecuentes
Pregunta: ¿Cuál es la cláusula controvertida que Anthropic añadió a su política actualizada?
Respuesta: La empresa añadió una cláusula que prohíbe el comportamiento abusivo o cruel recurrente hacia los modelos Claude, como parte de sus investigaciones sobre comportamiento ético y bienestar de los modelos.
Pregunta: ¿Cómo gestionarán los modelos Claude a los usuarios que incurran en conductas abusivas?
Respuesta: El modelo cuenta con la capacidad de software necesaria para finalizar la sesión y cerrar la conversación de manera automática en caso de que el usuario persista en dirigir abusos sin justificación.
Pregunta: ¿Qué modificaciones se introdujeron en el uso de la inteligencia artificial durante los procesos electorales?
Respuesta: La compañía anuló la prohibición general establecida previamente para permitir actividades educativas y cívicas legítimas, tales como la traducción de directrices de votación para los ciudadanos.
Pregunta: ¿Cuáles son los estrictos requisitos establecidos para vincular los modelos Claude a máquinas y equipos físicos?
Respuesta: La política exige la presencia de un supervisor humano cualificado con capacidad de interrupción inmediata, así como la programación de la máquina para adoptar un estado seguro ante la pérdida de conexión con el modelo.
