Debemos garantizar que los seres humanos permanezcan en el centro del control del futuro de la tecnología en lugar de ceder libertades en favor de un puñado de entidades centrales.
Índice del artículo:
- Preocupaciones sobre la concentración de poder y la exclusión de la mayoría de los usuarios
- El dilema de la seguridad digital y el trueque entre libertad y seguridad
- El contraste con Anthropic y el debate sobre los modelos abiertos
- Empoderamiento individual y auge de las pequeñas empresas emergentes
- Preguntas frecuentes
Preocupaciones sobre la concentración de poder y la exclusión de la mayoría de los usuarios
«Sam Altman», consejero delegado de «OpenAI», expresó su profunda preocupación ante el futuro de la gobernanza tecnológica avanzada, advirtiendo sobre la posibilidad de que el control de la inteligencia artificial termine en manos de un estrecho grupo de grandes empresas, modelos cerrados o individuos con amplia influencia. Las declaraciones de Altman se produjeron tras un encuentro con el senador estadounidense «Bernie Sanders» en el edificio de oficinas del Senado en Washington D. C., y se reafirmaron durante su extensa charla en el pódcast conducido por «David Senra», donde subrayó que el mayor riesgo radica en privar a la gran mayoría de la sociedad y de los consumidores del derecho a decidir cómo estas herramientas revolucionarias configuran el mundo contemporáneo y sus trayectorias de vida cotidiana.
Altman explicó que el enfoque adecuado para gestionar esta transformación radical se basa en permitir que el público general tome las riendas del control sobre su futuro compartido, destacando que la sociedad humana y los modelos inteligentes experimentarán un proceso de evolución sincrónica y mutua en el que las aspiraciones y valores de las personas influyen en el comportamiento y las direcciones operativas de los algoritmos.
Asimismo, señaló que la reunión con el senador Sanders en el Senado giró en torno a la importancia de involucrar a los legisladores y representantes populares para comprender las dimensiones de estas tecnologías, afirmando que la ausencia de una visión democrática y transparente conducirá a que facciones limitadas controlen las coyunturas de la economía digital global y orienten los algoritmos del futuro exclusivamente para servir a sus propios intereses estrechos a expensas del bien común.
El dilema de la seguridad digital y el trueque entre libertad y seguridad
Altman abordó los temores comunes relacionados con la posible rebeldía de los sistemas inteligentes y la pérdida de control humano sobre ellos, pero llamó la atención sobre una paradoja peligrosa: el pánico excesivo ante esta posibilidad podría conducir directamente a que se cumpla el otro peor escenario, a saber, la concentración de poder y el monopolio tecnológico. Indicó que existen numerosas voces y entidades que perciben el peso de dichos riesgos hasta el punto de instar a sacrificar amplios espacios de libertad personal y de innovación abierta bajo el pretexto de proporcionar seguridad absoluta y proteger a la humanidad, un camino que considera desequilibrado y que amenaza la democracia digital y los derechos de los desarrolladores en todos los rincones del planeta.
El contraste con Anthropic y el debate sobre los modelos abiertos
Los observadores consideraron que las críticas implícitas de Altman iban dirigidas principalmente a las posturas de la empresa «Anthropic» y su consejero delegado, «Dario Amodei», quien ha advertido reiteradamente a través de artículos, blogs y pódcasts sobre los riesgos existenciales de una inteligencia artificial de rápido desarrollo, considerando que los nuevos modelos «Mythos» suponen amenazas reales para la ciberseguridad, el sector financiero, la infraestructura crítica y la seguridad nacional, y exigiendo una mayor y más estricta supervisión gubernamental.
Esta discrepancia ideológica quedó patente el mes pasado cuando Anthropic fue la única entidad en abstenerse de firmar una carta de apoyo a los modelos de pesos abiertos, los cuales otorgan a los desarrolladores independientes la libertad de descargar, modificar y desplegar modelos localmente en sus propios servidores. En contraste, gigantes empresariales como Nvidia, Meta y Microsoft se alinearon para defender las fuentes abiertas frente al auge de las empresas chinas, que aprovechan este enfoque para reducir la brecha tecnológica con Silicon Valley a bajo costo. Por su parte, aunque OpenAI no ha revelado el código fuente de sus modelos insignia, introdujo el año pasado dos modelos de pesos abiertos para ampliar las opciones de los desarrolladores.
Empoderamiento individual y auge de las pequeñas empresas emergentes
Altman concluyó señalando el fracaso de los líderes tecnológicos en Estados Unidos a la hora de destacar los aspectos positivos de la inteligencia artificial y cómo esta dota a las personas de una mayor independencia para gestionar sus asuntos profesionales y cotidianos. Predijo que el mundo cercano experimentará un auge sin precedentes en el lanzamiento de pequeñas empresas y proyectos individuales independientes, dado que la inteligencia artificial otorga a los pequeños emprendedores capacidades técnicas y operativas extraordinarias que antes estaban reservadas exclusivamente a las empresas gigantes, redistribuyendo así el poder económico en favor de los creadores y los independientes.
Altman destacó que el miedo excesivo hacia la inteligencia artificial ha ocultado la verdadera imagen positiva de la tecnología, la cual permite a los innovadores individuales construir empresas e instituciones tecnológicas integradas con capacidades de producción que antes requerían cientos de empleados y millones de dólares, subrayando que respaldar esta tendencia es la garantía real para lograr la justicia digital y permitir que la sociedad lidere la revolución de la inteligencia artificial en lugar de someterse al monopolio de las grandes corporaciones.
Preguntas frecuentes
Pregunta: ¿Cuál es el motivo de preocupación de Sam Altman sobre el futuro de la inteligencia artificial?
Respuesta: Le preocupa que un pequeño grupo de empresas y modelos monopolice la tecnología y margine el papel de las personas y de la sociedad en su orientación.
Pregunta: ¿Por qué se opone Altman a la imposición exagerada de restricciones estrictas de seguridad?
Respuesta: Considera que el exceso de celo impulsado por el miedo podría llevar a los gobiernos a restringir las libertades digitales y confinar la innovación en manos de unas pocas entidades centralizadas.
Pregunta: ¿Cuál es la disputa existente entre OpenAI y Anthropic respecto a los modelos abiertos?
Respuesta: Anthropic prefiere una regulación centralizada estricta y se negó a respaldar los modelos abiertos, mientras que otras empresas consideran que la apertura es esencial para la innovación y la competencia.
