En un paso que refleja la escalada de tensiones internas en los pasillos de las principales empresas tecnológicas sobre la línea divisoria entre la innovación civil y el uso militar, cientos de empleados de Google firmaron el lunes una carta abierta dirigida directamente al director ejecutivo de la compañía, Sundar Pichai. La carta incluyó una demanda clara y explícita de que no se debe permitir que el Departamento de Defensa de Estados Unidos (el Pentágono) utilice los avanzados sistemas de inteligencia artificial desarrollados por la empresa en ninguna carga de trabajo clasificada o tarea militar sensible.
Responsabilidad ética hacia la tecnología
Los empleados firmantes de la carta, cuyo número superó los cientos e incluyó a más de 18 altos cargos e ingenieros estratégicos de la empresa, enfatizaron que sienten el peso de la responsabilidad que recae sobre sus hombros debido a su trabajo directo en el desarrollo de estas tecnologías avanzadas. El texto de la carta señala que los firmantes consideran que «su proximidad a esta tecnología crea la responsabilidad de destacar sus usos más poco éticos y peligrosos, y de prevenirlos», afirmando que la innovación debe estar orientada a servir a la humanidad y no a destruirla.
Las preocupaciones de los empleados no se limitaron a los aspectos generales del uso militar, sino que se profundizaron para incluir advertencias precisas sobre la posibilidad de emplear estos sistemas inteligentes en el desarrollo de armas letales autónomas o en su uso en operaciones de vigilancia masiva que violen los derechos humanos y la libertad individual. Según se indica en la carta, estas preocupaciones «van mucho más allá», lo que refleja una profunda inquietud sobre las repercusiones futuras desconocidas de la militarización de la tecnología avanzada.
«En la actualidad, la única forma de garantizar que Google no esté vinculado a tales daños es el rechazo categórico de cualquier carga de trabajo clasificada».
El dilema de la precisión y los riesgos de los errores algorítmicos
Además de las profundas preocupaciones éticas, los firmantes destacaron un asunto técnico de suma importancia: el grado de precisión de estas plataformas y sistemas. Expresaron su gran preocupación por la dependencia de este software para la toma de decisiones cruciales, señalando claramente que los sistemas actuales de inteligencia artificial no están libres de fallos y que cometen errores técnicos graves. En el contexto militar o de seguridad, estos errores podrían tener resultados catastróficos e irreparables, ya sea en términos de pérdida de vidas o de una escalada injustificada e infundada de tensiones y conflictos basada en datos erróneos.
Negociaciones secretas y ampliación de la cooperación
Esta carta de protesta se produce tras un detallado informe de investigación publicado por la plataforma «The Information», que reveló la existencia de negociaciones avanzadas entre el Departamento de Defensa de EE. UU. y Google sobre un posible y gran acuerdo. El informe indicó que este inminente acuerdo permitiría al Pentágono utilizar las tecnologías avanzadas de la empresa para «todos los usos lícitos», un término que los empleados consideran vago y que genera numerosos interrogantes sobre la naturaleza de dichos usos y sus límites reales en el terreno militar.
El precedente de «Anthropic» y las presiones gubernamentales
Estas negociaciones adquieren un carácter excepcional dado el contexto temporal en el que se han materializado, ya que se producen apenas dos meses después de que el Departamento de Defensa de EE. UU. anunciara la clasificación de «Anthropic», una empresa especializada en tecnología de aprendizaje automático, como un riesgo para la cadena de suministro. Esta clasificación actúa como una advertencia gubernamental que el Pentágono puede emitir contra las empresas que se considere que podrían exponer los sistemas militares a posibles vulnerabilidades o sabotajes por parte de adversarios estratégicos.
En un movimiento sin precedentes, Hegseth impidió que Anthropic obtuviera contratos militares específicos. Esta severa decisión gubernamental surgió como reacción directa a la negativa rotunda de la empresa a permitir que el ejército estadounidense utilizara su chatbot, conocido como «Claude», en tareas relacionadas con la vigilancia o el desarrollo de armas autónomas. A través de este rechazo, la empresa demostró su compromiso con sus principios éticos, lo que impulsó al gobierno a buscar otras alternativas para satisfacer sus necesidades tecnológicas.
Intervenciones de la administración de Trump
En el frente político, el presidente estadounidense Donald Trump intervino en esta crisis al instar a todos los departamentos y agencias gubernamentales a detener de inmediato el uso de las plataformas y sistemas de Anthropic. Estas presiones presidenciales complican aún más el panorama, al colocar a las grandes empresas tecnológicas como Google en una posición extremadamente delicada entre cumplir con los requisitos gubernamentales y militares para asegurarse contratos lucrativos, por un lado, y preservar los principios éticos y atender las demandas de sus empleados opuestos a la militarización y el uso de esta tecnología civil con fines bélicos, por el otro.
Preguntas frecuentes
¿Por qué se opusieron los empleados de Google a la cooperación de la empresa con el Pentágono?
Cientos de empleados firmaron una carta abierta en la que exigen al director ejecutivo que no permita que el Pentágono utilice las tecnologías de la empresa en trabajos clasificados, por razones éticas y por el temor a que se empleen en el desarrollo de armas autónomas y operaciones de vigilancia masiva.
¿Cuáles son las preocupaciones técnicas que impiden la integración de la inteligencia artificial en el ámbito militar?
Los empleados señalaron que estos sistemas avanzados aún no son completamente precisos y cometen errores de programación y cálculo. En un contexto militar, estos errores podrían causar daños catastróficos y pérdidas humanas irreparables.
¿Por qué el Departamento de Defensa prohibió el uso de las tecnologías de Anthropic?
El Departamento de Defensa de EE. UU. clasificó a Anthropic como un riesgo para la cadena de suministro y la excluyó de determinados contratos militares después de que la empresa se negara a permitir que el ejército utilizara el robot «Claude» en misiones de vigilancia o armamento militar, lo que también llevó al presidente Donald Trump a instar a las agencias gubernamentales a boicotear sus sistemas.
