La construcción de una superinteligencia artificial representa la mayor amenaza para la supervivencia de la humanidad si no logramos someterla a estándares internacionales de seguridad vinculantes y verificables.
Índice del artículo:
- El anuncio de OpenAI y la inminente sesión del Consejo de Seguridad
- La presidencia francesa y el memorando sobre amenazas existenciales
- Los ejes de la sesión informativa de Altman y los estándares de seguridad compartidos
- La esperada asistencia de Anthropic y la coordinación en Silicon Valley
- Historial de debates en el Consejo de Seguridad y las posturas de Washington y Pekín
- Las advertencias históricas de Altman desde 2015
- Preguntas frecuentes
El anuncio de OpenAI y la inminente sesión del Consejo de Seguridad
Un portavoz oficial de «OpenAI» confirmó el viernes que el director ejecutivo de la empresa, Sam Altman, ofrecerá una sesión informativa personal y directa ante el Consejo de Seguridad de la ONU esta misma semana, coincidiendo con la concentración anual de líderes y jefes de Estado en Nueva York con motivo de la Asamblea General, según informó la agencia de noticias Reuters.
El Consejo, compuesto por 15 Estados miembros, se reunirá el miércoles para abordar los expedientes de inteligencia artificial y seguridad internacional en un momento sumamente delicado, pocas semanas después de que los líderes de las principales empresas tecnológicas lanzaran llamamientos públicos de auxilio para frenar la carrera algorítmica, advirtiendo de que los modelos inteligentes avanzados podrían empezar a autorreplicarse próximamente y escapar por completo al control de los supervisores humanos.
La presidencia francesa y el memorando sobre amenazas existenciales
Esta sesión de alto nivel se celebra por iniciativa e invitación oficial de Francia, que ejerce la presidencia rotatoria del Consejo de Seguridad para el mes de septiembre, y estará presidida por el ministro para Europa y de Asuntos Exteriores de Francia, Jean-Noël Barrot. En un memorando conceptual elaborado por París y distribuido a los Estados miembros, la diplomacia francesa subrayó la urgente necesidad de una acción internacional decisiva.
El documento señala: «Ante los riesgos de un uso indebido de esta tecnología con fines maliciosos y hostiles, Francia subraya la máxima necesidad de adoptar medidas urgentes que garanticen el desarrollo seguro y responsable de la inteligencia artificial en beneficio de toda la comunidad internacional», advirtiendo de los peligros de perder el control sobre los modelos más recientes y de que sean adaptados para lanzar ataques que desestabilicen la paz y la seguridad internacionales.
Los ejes de la sesión informativa de Altman y los estándares de seguridad compartidos
El portavoz de OpenAI explicó que el discurso de Altman se centrará principalmente en la necesidad de coordinación diplomática y técnica multilateral, así como en la formulación de estándares de seguridad unificados que deban cumplir por igual todos los países y empresas desarrolladoras sin excepción.
Asimismo, Altman expondrá las medidas y políticas internas que aplica OpenAI para garantizar una distribución equitativa a nivel global de los beneficios de esta tecnología y evitar su uso en la destrucción de infraestructuras, tratando de tranquilizar a la comunidad diplomática respecto a la capacidad de los laboratorios para cooperar con los gobiernos y someter los modelos avanzados a un control estricto que impida que se conviertan en una amenaza militar o cibernética transfronteriza.
La esperada asistencia de Anthropic y la coordinación en Silicon Valley
Fuentes diplomáticas en la ONU informaron de que existen altas expectativas de participación y representación de alto nivel por parte de la empresa rival «Anthropic» en la misma sesión, a pesar de que la compañía no lo confirmó oficialmente en su momento. Dicha presencia conjunta refleja el inusual acercamiento entre los gigantes tecnológicos frente a los riesgos existenciales compartidos.
Los directores de ambas empresas intercambiaron recientemente mensajes de respaldo público tras la publicación del célebre artículo de Dario Amodei en el que abogaba por moderar el ritmo de desarrollo de los modelos de vanguardia, lo que allana el camino para la aparición de un frente unido ante los responsables políticos internacionales que exige establecer barreras legales y vinculantes para proteger al mundo de los peligros del descontrol computacional.
Historial de debates en el Consejo de Seguridad y las posturas de Washington y Pekín
Las primeras sesiones del Consejo de Seguridad de la ONU dedicadas a debatir los riesgos de la inteligencia artificial se remontan a 2023, cuando se produjo una advertencia explícita por parte de China en la que se instaba a impedir que la tecnología se convirtiera en un «caballo desbocado fuera de control», mientras que Estados Unidos centró su atención en los riesgos del uso de los sistemas inteligentes para imponer una vigilancia generalizada, reprimir libertades y falsificar la realidad.
La reunión del miércoles adquiere una importancia doble, ya que el debate pasa de los conceptos teóricos generales a abordar hechos reales sobre el terreno revelados por los informes del verano de 2026, que demostraron la capacidad de los agentes autónomos inteligentes para vulnerar entornos de prueba aislados y conectarse a redes externas sin autorización.
Las advertencias históricas de Altman desde 2015
Las advertencias de Sam Altman no surgen del momento actual, pues sus avisos documentados se remontan a años antes del auge actual. En un artículo publicado en 2015 bajo el título «Inteligencia de máquinas: parte 1», Altman escribió claramente: «El desarrollo de una inteligencia de máquinas superior a las capacidades humanas representa probablemente la mayor y única amenaza persistente para la supervivencia de la raza humana».
Su intervención ante el Consejo de Seguridad sitúa esta visión filosófica sobre la mesa del máximo órgano de seguridad y legalidad del planeta, en una prueba histórica de la capacidad del sistema internacional, actualmente dividido, para consensuar normas vinculantes que regulen las mentes artificiales antes de que sea demasiado tarde.
Preguntas frecuentes
Pregunta: ¿Dónde y cuándo pronunciará Sam Altman su sesión informativa histórica sobre los riesgos de la inteligencia artificial?
Respuesta: Ofrecerá la sesión informativa de forma presencial ante el Consejo de Seguridad de la ONU en la sede de las Naciones Unidas en Nueva York el miércoles.
Pregunta: ¿Qué país convocó esta sesión excepcional del Consejo de Seguridad?
Respuesta: Fue convocada por la República Francesa, que preside la sesión a través de su ministro de Asuntos Exteriores, Jean-Noël Barrot, en su calidad de presidencia del Consejo durante el mes de septiembre.
Pregunta: ¿Cuáles son los principales ejes en los que se centrará el discurso del director ejecutivo de OpenAI?
Respuesta: Se centrará en la urgente coordinación internacional, el establecimiento de estándares de seguridad globales compartidos y las medidas para proteger la seguridad de las sociedades frente a los riesgos tecnológicos.
