En un paso proactivo para enfrentar los riesgos existenciales, OpenAI anunció su inversión en la startup “Red Queen Bio”, centrada en desarrollar defensas contra el uso indebido de la inteligencia artificial en el diseño de armas biológicas, lo que destaca la urgente necesidad de ciberseguridad biológica.
Contenido del artículo:
- Inteligencia artificial: un arma de doble filo en la biología
- Inversión de OpenAI en “Red Queen Bio”
- Estrategia de OpenAI para contener los riesgos
- La misión de “Red Queen Bio”: la carrera hacia la defensa
- Ética y gobernanza en la inversión
- Preguntas frecuentes
Inteligencia artificial: un arma de doble filo en la biología
El campo de la inteligencia artificial experimenta un desarrollo acelerado que abre enormes horizontes en diversos ámbitos científicos, especialmente en la biología y la medicina. Los investigadores prevén que esta tecnología contribuya pronto a acelerar el desarrollo de fármacos o el diseño de nuevas vacunas eficaces. Sin embargo, estas mismas capacidades conllevan graves riesgos. Actores malintencionados pueden explotar las mismas herramientas y modelos para desarrollar armas biológicas nuevas y potentes con mayor facilidad que en el pasado. Este uso dual de la tecnología plantea a la comunidad científica y a las empresas tecnológicas desafíos de seguridad sin precedentes que exigen una vigilancia constante.
Inversión de OpenAI en “Red Queen Bio”
Reconociendo estos riesgos crecientes, OpenAI, la empresa creadora de ChatGPT, anunció el jueves que invertirá en una startup centrada en evitar que actores malintencionados creen armas biológicas impulsadas por inteligencia artificial. OpenAI es el inversor principal en una ronda de financiación inicial de 15 millones de dólares para “Red Queen Bio”. Hannu Rajaniemi, cofundador de la startup, declaró que el objetivo es garantizar que las defensas de la industria de la inteligencia artificial crezcan al menos al mismo ritmo que aquellos que buscan explotar los modelos para causar daño a los seres humanos, lo que refleja un compromiso con la innovación responsable.
Estrategia de OpenAI para contener los riesgos
Esta inversión forma parte de un esfuerzo más amplio de OpenAI por invertir en startups que buscan contener los riesgos planteados por la inteligencia artificial. El mes pasado, la compañía respaldó a “Valthos”, una startup de software de bioseuridad con sede en Nueva York. Jason Kwon, director de estrategia de OpenAI, explicó que la compañía evaluará invertir en otras startups enfocadas en problemas similares. Kwon afirmó en una entrevista: «Queremos aumentar la resiliencia general de todo el ecosistema. Una de las mejores maneras de abordar la mitigación de riesgos es mediante más tecnología». Este enfoque indica que las soluciones tecnológicas son la clave para enfrentar las amenazas generadas por la propia tecnología.
La misión de “Red Queen Bio”: la carrera hacia la defensa
“Red Queen Bio” se fundó como una empresa derivada de “Helix Nano”, una compañía de terapias de ARNm en fase clínica que utiliza cada vez más la inteligencia artificial en el diseño de fármacos. “Helix Nano” también trabajó con OpenAI para crear pruebas orientadas a identificar los riesgos biológicos de la inteligencia artificial. “Red Queen Bio” se apoyará en modelos de inteligencia artificial y en experimentos de laboratorio tradicionales para detectar nuevos riesgos y desarrollar nuevas defensas. El nombre de la startup proviene de una escena del libro de Lewis Carroll «A través del espejo», donde los personajes deben correr lo más rápido posible solo para mantenerse en el mismo lugar, una analogía adecuada para la carrera continua entre el desarrollo de capacidades ofensivas y defensivas en el ámbito de la bioseuridad. Rajaniemi señaló: «Era evidente que las capacidades biológicas avanzaban más rápido de lo que esperábamos. Sentimos que debíamos empezar a desarrollar defensas».
Ética y gobernanza en la inversión
El acuerdo generó cierto interés debido a las relaciones previas entre ambas empresas. Sam Altman, director ejecutivo de OpenAI, y la miembro de la junta directiva Nicole Seligman, quienes invirtieron previamente en “Helix Nano”, recibirán acciones en “Red Queen Bio” como parte del acuerdo. OpenAI aclaró que estos altos ejecutivos no participaron en la aprobación de la inversión de la empresa en “Red Queen Bio”. La inversión fue revisada y aprobada por el director de cumplimiento de OpenAI y los miembros del consejo de administración no afectados por conflictos de interés, lo que subraya la importancia de una gobernanza transparente en iniciativas tan sensibles relacionadas con la seguridad de la inteligencia artificial.
Preguntas frecuentes
P: ¿Cuál es el riesgo que representa la inteligencia artificial en el campo de las armas biológicas?
R: La inteligencia artificial puede acelerar y facilitar el proceso de diseño y desarrollo de nuevos patógenos o toxinas potentes, incrementando el riesgo de que sean utilizadas como armas biológicas por partes malintencionadas.
P: ¿Cuál es la misión de la empresa “Red Queen Bio”?
R: La compañía se centra en utilizar la inteligencia artificial y experimentos de laboratorio para identificar posibles riesgos biológicos que puedan surgir del uso indebido de la inteligencia artificial, desarrollando defensas proactivas contra ellos.
P: ¿Por qué invierte OpenAI en estas áreas?
R: Como parte de su compromiso con el desarrollo de una inteligencia artificial segura y responsable, OpenAI invierte en tecnología que puede ayudar a mitigar los riesgos existenciales potenciales derivados de los modelos avanzados.
