Sampura Research afirma que el juicio humano sigue siendo el verdadero salvavidas para evaluar el comportamiento de los modelos avanzados y cerrar las brechas críticas en los sistemas de supervisión automatizada.
Índice del artículo:
- Fundación de Sampura Research para la seguridad intelectual
- Una alternativa a la metodología de autovigilancia de la inteligencia artificial
- Construcción de la infraestructura para evaluar la alineación y los daños
- Contexto de la crisis de seguridad y fuga de talento de los laboratorios
- Preguntas frecuentes
Fundación de Sampura Research para la seguridad intelectual
Un grupo de destacados exinvestigadores del laboratorio «Google DeepMind» lanzó una nueva organización sin fines de lucro con sede en la capital británica, Londres, bajo el nombre «Sampura Research», con el objetivo de dedicar esfuerzos científicos a garantizar que los humanos permanezcan en el centro de los sistemas de supervisión y control de los modelos de inteligencia artificial de vanguardia. La organización, anunciada oficialmente el 24 de agosto, busca construir y desarrollar lo que denomina «jueces» certificados: sistemas híbridos que combinan la experiencia humana y la inteligencia artificial para evaluar la seguridad de los modelos y la disciplina de su comportamiento de acuerdo con los objetivos establecidos para ellos.
La organización se fundó por una iniciativa conjunta de «Rishubh Jain», «Joshua Jacob» y «Alex Adams», todos exempleados de Google DeepMind. Jain pasó siete años en el laboratorio, enfocándose durante dos de ellos en la investigación de supervisión escalable y contribuyendo a proyectos pioneros como «AlphaFold», mientras que Jacob dirigió la ingeniería de datos humanos en DeepMind y trabajó previamente en la empresa de vehículos autónomos «Waymo».
Una alternativa a la metodología de autovigilancia de la inteligencia artificial
La organización se presenta como una alternativa intelectual y científica directa al enfoque actual en la industria tecnológica, que se basa en utilizar modelos de inteligencia artificial para monitorear y evaluar otros modelos de inteligencia artificial; un método que ofrece una velocidad ultrarrápida pero que, según Jain, deja fallas críticas que solo pueden cerrarse con perspicacia y juicio humano equilibrado. De acuerdo con los informes de la plataforma «Bloomberg», Jain cree que los humanos tienen un papel fundamental e indispensable en la verificación del comportamiento de los modelos, incluso a medida que crecen sus capacidades de razonamiento.
Construcción de la infraestructura para evaluar la alineación y los daños
La agenda de investigación de Sampura se centra en desarrollar conjuntos de datos estándar que midan con precisión la eficiencia de los humanos y de los sistemas de inteligencia artificial en la verificación de los resultados de los modelos, y en utilizar dichas métricas para mejorar los métodos de supervisión. La organización define al «juez» como «un sistema humano, una inteligencia artificial o un sistema híbrido que evalúa la corrección y la alineación del comportamiento del modelo durante las conversaciones y los flujos de trabajo de los agentes».
Las líneas de trabajo planificadas incluyen la construcción de conjuntos de datos predictivos de daños y riesgos futuros, la creación de metodologías para distribuir subtareas entre humanos y máquinas, y el desarrollo de una plataforma de evaluación humana de código abierto. La organización ha comenzado a contratar al menos a seis investigadores experimentados en inteligencia artificial en Londres con salarios anuales que oscilan entre 100 000 y 290 000 libras esterlinas.
Contexto de la crisis de seguridad y fuga de talento de los laboratorios
El lanzamiento de la organización coincide con una creciente preocupación sobre la capacidad de absorción para supervisar los modelos avanzados. Un informe de la agencia Reuters indicó que las empresas de inteligencia artificial «aún no pueden contener lo que han construido», mientras que la organización sin fines de lucro independiente «MITRE» —que prueba modelos de OpenAI, Anthropic, Google y Meta— enfrenta grandes dificultades para contratar talento a pesar de ofrecer salarios superiores a los 500 000 dólares.
Más de 1100 investigadores y profesionales firmaron una carta abierta a finales de julio exigiendo apoyo a los mecanismos internacionales para frenar el desarrollo de modelos extremos cuando sea necesario. La salida de Jain se produjo en medio de una ola migratoria masiva de personal de DeepMind en junio de 2026, cuando el laboratorio perdió a cinco de sus principales investigadores en apenas seis días.
Preguntas frecuentes
Pregunta: ¿Qué es Sampura Research y cuál es su objetivo?
Respuesta: Es una organización de investigación sin fines de lucro en Londres fundada por exinvestigadores de DeepMind para garantizar la continuidad de la supervisión y el arbitraje humano sobre los modelos inteligentes.
Pregunta: ¿Por qué la organización rechaza la dependencia total de la inteligencia artificial para supervisarse a sí misma?
Respuesta: Porque la supervisión automatizada pura conlleva lagunas y riesgos de alineación que solo pueden detectarse y abordarse con precisión mediante la perspicacia y la evaluación humana directa.
Pregunta: ¿Cuáles son los proyectos de investigación más destacados en los que trabaja Sampura?
Respuesta: Incluyen la construcción de conjuntos de datos sobre daños futuros, metodologías para dividir las tareas de supervisión entre humanos y máquinas, y una plataforma de evaluación humana de código abierto.
