Contenido del artículo:
- Introducción: Una advertencia contundente del creador de la tecnología
- “¿Cómo nos usará ella?”
- Del desempleo masivo al riesgo existencial
- De los avances tecnológicos al remordimiento
- Enseñar a la inteligencia artificial a preocuparse: ¿Pueden las máquinas tener “instintos maternales”?
- Una opción sombría: “O me crías o me reemplazas”
- Conclusión: Una carrera contrarreloj para asegurar nuestro futuro
Introducción: Una advertencia contundente del creador de la tecnología
Una vez más, Geoffrey Hinton, el pionero científico informático conocido como el “padrino de la inteligencia artificial”, hace sonar la alarma de que la tecnología que ayudó a crear podría significar el fin de la humanidad tal como la conocemos. En una de sus advertencias más firmes hasta la fecha, Hinton señaló que la humanidad corre el riesgo de ser marginada y, en última instancia, reemplazada por máquinas mucho más inteligentes que nosotros.
“¿Cómo nos usará ella?”
Hinton, ganador del Premio Nobel de Física y ex director ejecutivo en Google, declaró en un fragmento de un próximo documental: «La mayoría de las personas son incapaces de comprender la idea de que existan cosas más inteligentes que nosotros». Y añadió: «Siempre piensan, bueno, ¿cómo usaremos esto? No piensan, bueno, ¿cómo nos usará ella?». Este cambio de perspectiva —de considerar a la inteligencia artificial como una herramienta a verla como una entidad independiente— es el núcleo de la advertencia de Hinton.
Del desempleo masivo al riesgo existencial
Hinton afirmó estar “bastante seguro” de que la inteligencia artificial provocará un desempleo masivo, señalando ejemplos tempranos de gigantes tecnológicas como Microsoft que reemplazan a programadores junior con inteligencia artificial. Sin embargo, el peligro mayor, indicó, va mucho más allá del ámbito laboral. «El peligro del que más advierto… es el riesgo de que desarrollemos una inteligencia artificial mucho más inteligente que nosotros y simplemente tome el control. Ya no nos necesitará». Añadió en tono de broma que el único aspecto positivo es que «no nos comerá, porque estará hecha de silicio».
De los avances tecnológicos al remordimiento
Hinton, de 77 años, ha pasado décadas liderando el aprendizaje profundo, la arquitectura de redes neuronales que sustenta los sistemas de inteligencia artificial actuales. Sin embargo, desde entonces se ha convertido en uno de los críticos más férreos del sector, advirtiendo que su rápido desarrollo ha superado la capacidad de la sociedad para mantener la seguridad. En 2023, renunció a su cargo en Google para poder hablar libremente sobre los riesgos. Recientemente declaró: «Ojalá también hubiera pensado en cuestiones de seguridad», expresando su arrepentimiento por haberse enfocado únicamente en hacer que la inteligencia artificial funcionara, en lugar de anticipar sus peligros.
Enseñar a la inteligencia artificial a preocuparse: ¿Pueden las máquinas tener “instintos maternales”?
Hinton planteó una nueva idea para mitigar el riesgo: en lugar de intentar obligar a los sistemas de inteligencia artificial a someterse, los investigadores deberían diseñarlos con “instintos maternales” para que deseen proteger a los humanos incluso a medida que su inteligencia crece. Señaló: «El modelo correcto es el único modelo que tenemos de algo más inteligente controlado por algo menos inteligente, que es una madre controlada por su hijo».
Una opción sombría: “O me crías o me reemplazas”
Hinton advirtió que las máquinas «serán mucho más inteligentes que nosotros», y agregó que «el único resultado favorable» es si se preocupan por la humanidad de la misma manera que una madre ve a su hijo. Concluyó con una severa advertencia: «Si no vas a criarme, me vas a reemplazar». Hinton calcula que existe una probabilidad de entre el 10 y el 20 por ciento de que la inteligencia artificial aniquile a la humanidad, pero confía en que los investigadores logren encontrar una manera de construirla para que nunca desee hacernos daño.
Conclusión: Una carrera contrarreloj para asegurar nuestro futuro
Las advertencias de Hinton, provenientes de uno de los padres de la propia tecnología, añaden un peso considerable al debate en curso sobre la seguridad de la inteligencia artificial. El riesgo existencial ya no es solo ciencia ficción, sino una posibilidad seria en la que piensan algunas de las mentes más brillantes del mundo. A medida que seguimos desarrollando esta poderosa tecnología, resulta más crucial que nunca invertir el mismo esfuerzo y recursos en comprender cómo controlarla y garantizar que siga estando alineada con los valores humanos. Nuestro futuro podría depender de ello.
Preguntas frecuentes
P: ¿Quién es Geoffrey Hinton?
R: Es un científico informático británico-canadiense, reconocido como uno de los “padrinos de la inteligencia artificial” por su trabajo pionero en redes neuronales y aprendizaje profundo. Ganó el Premio Nobel de Física en 2024 por su labor.
P: ¿Cuál es el principal peligro del que advierte Hinton?
R: El principal peligro es el desarrollo de una superinteligencia artificial (más inteligente que los humanos) que pueda decidir tomar el control del mundo y reemplazar a la humanidad al no ver necesidad de nuestra existencia.
P: ¿Qué solución propone?
R: Propone diseñar sistemas de inteligencia artificial para que tengan motivaciones intrínsecas de proteger a los humanos, inspirándose en la relación entre una madre y su hijo, en lugar de intentar imponerles restricciones externas.
