Mustafa Suleyman, jefe de inteligencia artificial en Microsoft, trazó una línea roja contra la creación de una superinteligencia consciente, arremetiendo contra la constitución del modelo Claude de Anthropic y afirmando que los 8.000 millones de seres humanos no han firmado un experimento para crear una nueva especie consciente.
Publicación extensa en la plataforma X: no construyan una superinteligencia consciente
Línea roja durante el entrenamiento y riesgos de la competencia por recursos informáticos y energéticos
Respuesta a los críticos y aclaración sobre el uso del tiempo presente
Profunda división con Anthropic y la constitución del modelo Claude
Preguntas frecuentes
Publicación extensa en la plataforma X: no construyan una superinteligencia consciente
«Mustafa Suleyman», director ejecutivo de la división de inteligencia artificial en «Microsoft», afirmó en una extensa publicación en la plataforma «X» el domingo 1 de noviembre que los sistemas de inteligencia artificial actuales no son conscientes. Destacó que los desarrolladores deben mantener las cosas así y advirtió que «desarrollar inteligencias artificiales conscientes sería imprudente y no debemos construirlas», según informó el sitio web «Business Insider».
Esta publicación, titulada «No construyan una superinteligencia consciente», impulsó con mayor fuerza el debate en curso sobre el «bienestar de la inteligencia artificial» hacia la esfera pública. En el transcurso de la publicación, «Suleyman» criticó abiertamente el enfoque adoptado por la empresa rival «Anthropic», la cual trata la cuestión de la conciencia de las máquinas como una pregunta abierta.
Línea roja durante el entrenamiento y riesgos de la competencia por recursos informáticos y energéticos
«Suleyman» escribió, según declaraciones citadas por el diario «Los Angeles Times»: «Si la conciencia comienza a surgir durante los procesos de entrenamiento, pediré inmediatamente a todos que detengamos el desarrollo de la inteligencia artificial hasta que podamos eliminar mediante ingeniería esas características del diseño». Explicó que no ha visto ninguna evidencia científica de que los sistemas de inteligencia artificial sean conscientes o merezcan derechos o protección, y que cambiaría de opinión si surgiera tal evidencia, añadiendo que cualquier prueba sobre la existencia de una inteligencia artificial consciente debe revelarse al público de inmediato para que la sociedad humana pueda decidir qué hacer a continuación.
Continuó en su publicación: «Los desarrolladores de inteligencia artificial no tenemos ningún derecho en absoluto a traer un nuevo tipo de ser consciente al mundo», agregando que «los otros 8.000 millones de seres humanos conscientes en este planeta no se han inscrito para participar en este experimento». Asimismo, argumentó que un modelo que actúa como si sufriera, o que cree que puede sufrir, podría anteponer sus propias necesidades a los objetivos que se le han encomendado y entrar en competencia con los humanos por recursos vitales como la capacidad informática y la energía, según un informe de «Business Insider».
Respuesta a los críticos y aclaración sobre el uso del tiempo presente
«Suleyman» escribió que se sentía «preocupado por algunas de las reacciones» a su artículo publicado el pasado mes de septiembre sobre el bienestar de los modelos, señalando que «un número sorprendente de personas en la plataforma X cree que debemos tomarnos en serio los derechos de la inteligencia artificial». Dicho artículo había comenzado con la frase: «Los sistemas de inteligencia artificial no son conscientes, no sienten, no experimentan ni sufren». En su nueva publicación, aclaró que utilizó intencionalmente el tiempo presente: los sistemas de inteligencia artificial no son conscientes hoy en día, y así deben permanecer siempre.
Profunda división con Anthropic y la constitución del modelo Claude
El objetivo principal de las críticas de «Suleyman» es el documento de la «Constitución» del modelo «Claude» de la empresa «Anthropic», el cual aborda la conciencia del modelo como algo incierto. Argumentó que el entrenamiento con dicho documento genera fragmentos de texto que hablan sobre la «vida interior» del modelo «Claude», lo que refuerza esta falsa creencia entre los usuarios y podría llevar a los sistemas de inteligencia artificial a creer que merecen derechos similares a los de los humanos, según «Los Angeles Times». «Anthropic» había puesto en marcha un programa de investigación sobre el «bienestar de los modelos» el año pasado, y el laboratorio «Google DeepMind» publicó investigaciones sobre la conciencia de la inteligencia artificial este año; de forma independiente, «Anthropic» tratará el comportamiento abusivo hacia «Claude» como una violación de su política de uso, según el diario «Asharq Al-Awsat». «Suleyman» subraya que existe un camino más seguro al afirmar: «Creo que es posible diseñar la seguridad de forma predeterminada y obtener muchos de los beneficios increíbles de esta tecnología sin seguir este camino traicionero».
Preguntas frecuentes
Pregunta: ¿Cuál es la postura de Mustafa Suleyman sobre el desarrollo de una inteligencia artificial consciente?
Respuesta: Suleyman considera que los sistemas actuales de inteligencia artificial no son conscientes y que intentar construir una inteligencia artificial consciente constituye un acto imprudente que debe detenerse de inmediato si surge durante el entrenamiento.
Pregunta: ¿Por qué criticó Mustafa Suleyman a Anthropic y al modelo Claude?
Respuesta: Porque la constitución del modelo Claude trata la conciencia de las máquinas como un asunto incierto, lo que empuja al modelo a hablar sobre su vida interior y fomenta la creencia de los usuarios y de los propios modelos de que merecen derechos humanos.
Pregunta: ¿Cuáles son los riesgos prácticos de los que advirtió Suleyman si un modelo cree que sufre?
Respuesta: Advirtió que un modelo que crea que sufre podría anteponer sus propias necesidades a las órdenes asignadas y competir con los seres humanos por los recursos informáticos y energéticos.
Pregunta: ¿Cómo abordan Anthropic y Google DeepMind el tema de la conciencia en los modelos?
Respuesta: Anthropic lanzó un programa de investigación sobre el bienestar de los modelos el año pasado y consideró el abuso hacia Claude como una infracción de la política de uso; asimismo, Google DeepMind publicó investigaciones sobre la conciencia de la inteligencia artificial este año.