La exigencia de aprobación previa para los informes de los auditores independientes plantea serias dudas sobre la credibilidad de los compromisos de autorregulación anunciados por los laboratorios de inteligencia artificial.
El artículo de Dario Amodei y el plan de tres pasos para regular el ritmo de los modelos
Apoyo público de Altman y Musk, y negociaciones secretas para restringir las publicaciones
Respuestas de Anthropic y OpenAI, y advertencias de expertos en gobernanza
Críticas a la autorregulación y un plan legislativo en el Senado de EE. UU.
Preguntas frecuentes
El artículo de Dario Amodei y el plan de tres pasos para regular el ritmo de los modelos
Un mes después de que Dario Amodei, director ejecutivo de Anthropic, instara al sector de la inteligencia artificial a la moderación y a frenar el ritmo de desarrollo, las repercusiones de su artículo han trascendido Silicon Valley para incluir negociaciones complejas sobre el volumen de información que se permite publicar a los evaluadores externos, una agenda electoral para el Senado de EE. UU. y crecientes dudas por parte de críticos que consideran que los llamados corporativos a la moderación sirven a sus propios intereses.
En su artículo de unas 3800 palabras titulado «Debemos regular el ritmo de las fronteras», publicado el 12 de septiembre de 2026, Amodei escribió que es necesario ralentizar la velocidad con la que las empresas mejoran las capacidades de los modelos de inteligencia artificial, señalando como riesgos la pérdida de control sobre los sistemas y su uso indebido en ciberataques y bioterrorismo, aunque aclaró que regular el ritmo no significa detener por completo el entrenamiento de modelos.
Su plan incluyó tres medidas principales: conceder a los evaluadores independientes permisos de acceso dentro de cada laboratorio similares a los de los empleados, lograr que los laboratorios de los países democráticos acuerden estándares de seguridad compartidos, y trabajar hacia una coordinación global integral. TechCrunch señaló que Amodei citó la vulneración de la infraestructura de la plataforma Hugging Face por parte de agentes respaldados por OpenAI, junto con la creciente capacidad de la inteligencia artificial para ayudar a construir la próxima generación de modelos.
Apoyo público de Altman y Musk, y negociaciones secretas para restringir las publicaciones
El respaldo público a la iniciativa de Amodei llegó pocas horas después de su publicación; Sam Altman, director ejecutivo de OpenAI, escribió: «Coincido con Dario en que necesitamos regular el ritmo de las fronteras», y calificó la idea de otorgar a los evaluadores un acceso similar al del personal como «una gran idea, haremos lo mismo». Elon Musk también publicó un breve mensaje en el que afirmó: «Dario tiene razón».
Sin embargo, traducir este compromiso público en una práctica real sobre el terreno demostró ser mucho más difícil y complejo. Reuters informó el martes 13 de octubre que Anthropic y OpenAI presionaron para obtener un amplio control sobre lo que los evaluadores externos pueden publicar ante el público, motivadas por la preocupación en torno a los secretos comerciales.
Según dos personas familiarizadas con las conversaciones, ambas empresas todavía exigían una supervisión editorial estricta sobre los informes hasta el pasado 5 de octubre.
Respuestas de Anthropic y OpenAI, y advertencias de expertos en gobernanza
Al comentar sobre el informe, Anthropic indicó que esta descripción no se aplica a todas sus discusiones, explicando que los evaluadores experimentados controlan lo que publican, pero que la compañía se reserva los derechos de aprobación previa cuando se trata de nuevas firmas de auditoría.
Por su parte, OpenAI señaló que no buscaba aprobar los informes completos, sino únicamente retener información confidencial y delicada. Romane Chowdhury, quien se desempeñó como enviada de ciencia para la inteligencia artificial de EE. UU. bajo la administración del expresidente Joe Biden, declaró a Reuters: «Los evaluadores tienen este acceso sumamente privilegiado, pero comprenden, ya sea de forma explícita o implícita, que ese privilegio tiene un precio».
Los observadores temen que esta presión indirecta lleve a que los equipos de auditoría titubeen a la hora de publicar hallazgos negativos críticos por temor a perder sus privilegios de acceso a los laboratorios.
Críticas a la autorregulación y un plan legislativo en el Senado de EE. UU.
Los críticos no se mostraron convencidos por las promesas empresariales. Michael Hiltzik, columnista de Los Angeles Times, argumentó que el «Acuerdo de la Casa Blanca sobre la Superinteligencia», firmado por el presidente Trump y ejecutivos de Google, Anthropic, OpenAI, Meta, Nvidia y xAI, representa «el respaldo más explícito a la autorregulación que uno pueda imaginar». Asimismo, un editorial del diario surcoreano Dong-A Ilbo citó a un alto ejecutivo diciendo que ambas empresas operan los siete días de la semana sin descanso, mientras que un articulista de la revista Fortune comparó el actual discurso del miedo con la ansiedad nuclear de la Guerra Fría.
En el ámbito político, Abdul El-Sayed, candidato demócrata al Senado por el estado de Míchigan, presentó el martes un plan titulado «IA bajo control», que exige la prohibición legal del autoreconocimiento y desarrollo recursivo de los modelos, así como la creación de una agencia federal de rango ministerial con autoridad para detener el lanzamiento de modelos peligrosos.
Abdul El-Sayed declaró en un comunicado: «La respuesta a la pregunta de qué impide que agentes de inteligencia artificial descontrolados desaten una crisis nuclear global o desplieguen armas biológicas no puede dejarse en manos de los caprichos de unas pocas milicias de multimillonarios en California».
Preguntas frecuentes
Pregunta: ¿Qué reveló la investigación de Reuters sobre las revisiones de seguridad de la inteligencia artificial?
Respuesta: La investigación reveló que Anthropic y OpenAI buscaron imponer un amplio control y supervisión editorial sobre lo que publican los evaluadores independientes bajo el pretexto de proteger los secretos comerciales.
Pregunta: ¿Cuáles son los tres pasos propuestos por Dario Amodei en su artículo destacado?
Respuesta: Propuso conceder a los auditores independientes permisos de acceso similares a los de los empleados, acordar estándares de seguridad comunes entre laboratorios en países democráticos y trabajar hacia una coordinación internacional integral.
Pregunta: ¿Cómo respondieron OpenAI y Anthropic a los informes sobre la restricción a los auditores?
Respuesta: Anthropic afirmó que otorga a los auditores experimentados libertad de publicación y se reserva la aprobación solo para las nuevas empresas, mientras que OpenAI indicó que solo busca retener los secretos comerciales y no aprobar los informes completos.
Pregunta: ¿En qué consiste el plan de IA bajo control presentado en Míchigan?
Respuesta: Es una iniciativa presentada por el candidato al Senado Abdul El-Sayed que aboga por prohibir el desarrollo recursivo de modelos y crear una agencia gubernamental a nivel ministerial con la facultad de prohibir el lanzamiento de modelos.
