¿La llegada de la inteligencia artificial general conducirá a un único sistema masivo que lo controle todo? El experto Lance Elliott explica por qué esto podría ser solo una ilusión.
Contenido del artículo:
- Introducción: la polémica de la inteligencia artificial general
- Tendencias de investigación hacia la AGI
- Pluralidad de sistemas inteligentes
- ¿Cooperación o competencia?
- El peligro de las mentes «depredadoras»
- Más allá de la AGI: hacia la superinteligencia artificial (ASI)
- La importancia de la alineación de la inteligencia artificial
- Conclusión
- Preguntas frecuentes
Introducción: la polémica de la inteligencia artificial general
Hoy en día, la atención se centra en cuándo alcanzaremos una inteligencia artificial general (AGI), capaz de realizar cualquier tarea mental exactamente igual que un ser humano. Sin embargo, los escenarios de la ciencia ficción suelen representar esta AGI como una entidad gigante que controla el mundo entero. En su último artículo, Lance Elliott presenta una visión diferente y afirma que el concepto de «mente única» es pura ficción.
Tendencias de investigación hacia la AGI
Cientos de laboratorios y empresas participan en una carrera frenética para alcanzar la AGI, y cada uno intenta desarrollar sus propios modelos y motores. Elliott señala que dichos modelos suelen basarse en código cerrado y propiedad intelectual, lo que significa que, incluso si un equipo alcanza la AGI, estará desconectado de cualquier otro modelo. No existe un plan unificado para fusionar todo ese trabajo en una sola entidad.
Pluralidad de sistemas inteligentes
Elliott señala que, si algún día llegamos a contar con más de un sistema que alcance el nivel de AGI, estos sistemas serán diversos en términos de objetivos y diseño. Una empresa determinada puede centrarse en aplicaciones industriales, otra en aplicaciones médicas y una tercera en la robótica. Por lo tanto, la idea de unificar todos estos sistemas en una «mente única y colosal» parece ilógica, ya que los intereses y los antecedentes técnicos seguirán estando separados, además de la competencia comercial y geopolítica.
¿Cooperación o competencia?
El artículo plantea una pregunta importante: ¿intentarán los sistemas AGI cooperar entre sí para formar una «mente colectiva» o competirán? Elliott considera más probable un escenario realista en el que se produzca cierta cooperación parcial, como el intercambio de datos a través de interfaces de programación de aplicaciones, aunque esto no signifique la integración en un único sistema. La competencia económica y las consideraciones nacionales pueden impedir cualquier integración a gran escala.
El peligro de las mentes «depredadoras»
Aunque Elliott considera difícil la existencia de una sola entidad «gigante», no niega que la inteligencia artificial pueda plantear riesgos si se adapta mal o se emplea con fines militares. El temor a los incidentes de inteligencia artificial, o lo que algunos llaman «P(doom)», sigue presente, pero por razones diferentes a la simple existencia de una «mente única y dominante».
Más allá de la AGI: hacia la superinteligencia artificial (ASI)
En cuanto a la superinteligencia artificial (ASI), que supera a los humanos en todos los ámbitos intelectuales, Elliott afirma que es difícil predecir su comportamiento. Si surge un único sistema ASI, podría intentar impedir la aparición de competidores. No obstante, una imagen alternativa es que varios sistemas ASI podrían surgir al mismo tiempo, dando lugar a alianzas o conflictos entre ellos. Una vez más, es improbable que se produzca una fusión integral en una sola mente.
La importancia de la alineación de la inteligencia artificial
Elliott defiende la necesidad de desarrollar tecnologías para alinear la inteligencia artificial con los valores y los intereses humanos desde las primeras etapas de desarrollo. Aunque no exista una mente única, la mera presencia de múltiples sistemas hiperinteligentes podría causar graves problemas en las decisiones políticas y sociales. Deben establecerse normas de seguridad, directrices éticas, programas de supervisión y cooperación internacional para reducir los riesgos de un uso negativo.
Conclusión
Elliott resume que el mito de que nos dirigimos hacia una «única mente informática gigante» que domina el mundo es una exageración dramática promovida por la ciencia ficción. En realidad, es posible que presenciemos pluralidad y diversidad en los sistemas AGI y ASI, con probabilidades de competencia o cooperación limitada entre ellos. Lo que requiere atención es asegurar estos modelos y orientarlos para servir a la humanidad, en lugar de dejarse llevar por el miedo ficticio de una mente única y gigantesca.
Preguntas frecuentes
1. ¿Por qué descarta Elliott la existencia de una única mente artificial?
Debido a la multitud de desarrolladores y a sus diferentes objetivos técnicos y comerciales, además de las consideraciones de privacidad y soberanía nacional.
2. ¿Significa esto que la inteligencia artificial no presenta riesgos?
No, existen numerosos riesgos, pero su origen radica en la pluralidad de sistemas y su mal uso, y no en una mente única y controladora.
3. ¿Qué pasa con la integración de sistemas a través de APIs?
Los sistemas pueden conectarse entre sí con el fin de intercambiar datos limitados, pero esto no equivale a formar un sistema único e integral.
4. ¿Cómo se pueden reducir los riesgos?
Mediante el desarrollo de políticas de alineación de la inteligencia artificial y marcos de gobernanza internacional, así como la consolidación de principios de seguridad y ética.
5. ¿Cuál es el destino de la carrera hacia la AGI?
Continuará, y es posible que veamos múltiples modelos que alcancen el nivel de inteligencia general, lo que exigirá una mayor cooperación y regulación a nivel mundial.
