En nuestra historia nunca hemos creado seres que puedan superarnos en inteligencia pronto, por lo que la probabilidad del 10 por ciento de extinción humana no es una estimación irrazonable.
Índice del artículo:
- Las impactantes declaraciones de Hinton en la televisión de la BBC
- Amenazas existenciales sin control físico directo
- Preocupaciones sobre virus biológicos e infraestructura crítica
- La oleada de dimisiones en Anthropic y la postura de Evan Hubinger
- División de opiniones entre los principales científicos de IA sobre el peligro
- Ausencia de interés gubernamental y llamados a la acción legislativa
- Preguntas frecuentes
Las impactantes declaraciones de Hinton en la televisión de la BBC
El reconocido científico informático Geoffrey Hinton, galardonado con el Premio Nobel de Física 2024 en reconocimiento a sus investigaciones fundamentales sobre algoritmos de aprendizaje automático y redes neuronales, ofreció declaraciones contundentes en el programa «Newsnight» de la BBC, afirmando que estimar la probabilidad de la extinción humana debido a la inteligencia artificial en un 10 por ciento durante los próximos diez años «parece una estimación que no carece en absoluto de sentido», frase que dejó a la presentadora del programa, Victoria Derbyshire, en un estado de evidente asombro y shock en plena transmisión en directo.
Hinton explicó su punto de vista diciendo: «Nosotros, como humanos, nunca antes en nuestra larga historia hemos creado entidades que pronto podrían volverse mucho más inteligentes que nosotros, por lo que realmente no sabemos qué sucederá a continuación. El 10 por ciento me parece una estimación plausible, aunque nadie tiene un método categórico para ofrecer una cifra exacta». Cuando la presentadora le preguntó de nuevo para confirmarlo, Hinton respondió con una sola palabra decisiva: «Sí», lo que desató una tormenta de debate en las redes sociales.
Amenazas existenciales sin control físico directo
Hinton subrayó que el peligro existencial de la inteligencia artificial avanzada no requiere necesariamente que las máquinas cuenten con cuerpos robóticos o control físico directo sobre las riendas del planeta; los sistemas superinteligentes pueden desatar un caos masivo y una parálisis total en las sociedades humanas con solo manipular a las personas, comunicarse mediante la persuasión e influir en los tomadores de decisiones.
Hinton añadió como advertencia: «Estos modelos inteligentes podrán diseñar virus altamente maliciosos y letales, ya sean patógenos biológicos destructivos para los cuerpos o virus informáticos que paralicen sistemas digitales, además de lanzar ciberataques catastróficos», y calificó de «enorme estupidez» suponer que el riesgo existencial es inferior al 1 por ciento.
Preocupaciones sobre virus biológicos e infraestructura crítica
Las advertencias de Hinton coincidieron con la visión del profesor Stuart Russell, prestigioso científico informático de la Universidad de California en Berkeley, quien declaró a Business Insider que la inteligencia artificial o actores maliciosos respaldados por ella podrían lanzar ataques coordinados y sorpresivos contra la infraestructura crítica de las naciones, incluyendo redes eléctricas nacionales, suministro de agua potable, redes de transporte aéreo y terrestre, y sistemas bancarios y financieros.
Los expertos afirman que la interrupción de estas arterias vitales es suficiente para sumir a las sociedades modernas en un caos social y económico generalizado que resultaría difícil de gestionar.
La oleada de dimisiones en Anthropic y la postura de Evan Hubinger
La entrevista a Hinton llega como culminación de una serie de acontecimientos dramáticos desatados el 8 de septiembre con la renuncia pública de Jacob Hilton (Jacob90), ex investigador de entrenamiento de modelos en OpenAI y Anthropic, quien escribió advirtiendo: «Ambas empresas no están actuando con responsabilidad, compiten hacia una superinteligencia autoevolutiva y están jugando con nuestras vidas».
Posteriormente, Evan Hubinger, jefe de ciencia de alineación en Anthropic, respaldó las preocupaciones de Hilton y anunció su creencia personal de que la probabilidad de la extinción humana por causa de la inteligencia artificial supera el 10 por ciento en la década actual, admitiendo que su propia empresa carece de un plan definitivo para alinear la superinteligencia de manera segura.
División de opiniones entre los principales científicos de IA sobre el peligro
Por el contrario, este pesimismo no cuenta con un consenso absoluto en los círculos científicos; el investigador Gary Marcus declaró que ve los ciberataques y la desinformación como riesgos graves y reales, pero descarta el escenario de la aniquilación total del género humano a corto plazo.
Por su parte, Yann LeCun, científico jefe de inteligencia artificial en Meta, calificó las estimaciones porcentuales como meras «impresiones e intuiciones personales carentes de rigor científico», algo que el propio Hinton admitió parcialmente ante CNN al subrayar que intentar fijar cifras exactas de porcentaje sigue siendo una suposición amplia dada la novedad del experimento.
Ausencia de interés gubernamental y llamados a la acción legislativa
El destacado periodista de la cadena británica ITV Robert Piston expresó su profundo asombro ante la falta de una respuesta gubernamental oficial adecuada a estas advertencias explícitas emitidas por los principales líderes de la industria, escribiendo en la plataforma X: «Estoy completamente estupefacto de que estas declaraciones no atraigan la atención suficiente, ni siquiera dentro de los pasillos del gobierno y el parlamento».
Los observadores consideran que las declaraciones de Hinton intensificarán la presión pública y legislativa en el Reino Unido y los Estados Unidos para obligar a las empresas tecnológicas a someter los modelos avanzados a una supervisión de seguridad independiente y estricta antes de lanzarlos al público.
Preguntas frecuentes
Pregunta: ¿Cuál es la estimación dada por Geoffrey Hinton sobre la probabilidad de la extinción humana debido a la inteligencia artificial?
Respuesta: Hinton afirmó que una probabilidad del 10 por ciento de que la inteligencia artificial aniquile a la humanidad en la próxima década constituye una estimación razonable.
Pregunta: ¿Cómo puede la inteligencia artificial plantear una amenaza existencial sin poseer control físico?
Respuesta: Hinton explicó que es capaz de sembrar el caos mediante la manipulación humana, el desarrollo de virus biológicos y de software, y el lanzamiento de ciberataques.
Pregunta: ¿Cuál es la postura opuesta adoptada por investigadores como Yann LeCun y Gary Marcus?
Respuesta: Consideran que la amenaza existencial no es realista actualmente y que establecer porcentajes de extinción es meramente una intuición personal que distrae de los riesgos actuales.
