En las últimas semanas, hemos presenciado una carrera feroz entre los gigantes tecnológicas. Google, Anthropic y, más recientemente, OpenAI han intentado superarse mutuamente con nuevos modelos de inteligencia artificial que presentan mejoras notables, aunque a veces incrementales, en áreas como la programación y el razonamiento lógico. Pero tras bambalinas, y a pesar de las celebraciones por estos lanzamientos, existe un consenso creciente entre los expertos de que los métodos actuales han llegado a un callejón sin salida y de que se necesitan nuevos avances científicos para construir sistemas que realmente superen las capacidades humanas.
Contenido del artículo:
- Introducción: más allá del entrenamiento tradicional
- El concepto de “aprendizaje continuo”: aprender como los humanos
- Limitaciones actuales: una mente congelada en el tiempo
- El dilema del “olvido catastrófico”
- Movimientos de los gigantes: Google y OpenAI
- El camino hacia la inteligencia artificial general (AGI)
- Preguntas frecuentes
Introducción: más allá del entrenamiento tradicional
Los modelos de inteligencia artificial líderes de hoy (como GPT-4 y Claude) aprenden mediante un proceso llamado “preentrenamiento” (Pre-training). Se crea una red neuronal masiva y se alimenta con cantidades descomunales de datos, tras lo cual dicha red es “congelada”. Esto significa que el modelo, una vez finalizado su entrenamiento, deja de aprender. Se vuelve similar a una enciclopedia impresa; muy inteligente, pero su conocimiento se detiene en la fecha de su impresión.
El concepto de “aprendizaje continuo”: aprender como los humanos
Los líderes de la inteligencia artificial se centran ahora en un enfoque llamado “aprendizaje continuo” (Continual Learning). La idea es imitar la forma en que aprenden los humanos. Nosotros no dejamos de aprender tras graduarnos de la escuela; adquirimos nuevas experiencias e información todos los días y las sumamos a nuestro conocimiento previo.
Christopher Kanan, profesor de ciencias de la computación en la Universidad de Rochester, afirmó: “El aprendizaje continuo intenta crear sistemas que aprendan con el tiempo a partir de los datos y nunca se detengan… exactamente igual que nosotros los humanos”. Este enfoque es considerado por Sam Altman, director ejecutivo de OpenAI, y por los expertos de Google DeepMind como la verdadera clave para alcanzar la inteligencia artificial general (AGI).
Limitaciones actuales: una mente congelada en el tiempo
Los sistemas actuales están limitados por la fecha de corte de los datos (“Cut-off Date”). Para superar esto, las empresas utilizan soluciones temporales (Band-Aid Solutions) como la “generación aumentada por recuperación” (RAG), donde el modelo busca en Google para recuperar información actualizada. Sin embargo, esto no hace que el modelo en sí sea “más inteligente”; simplemente lee un documento externo. Su mente básica y su red neuronal no cambian ni crecen.
El dilema del “olvido catastrófico”
El mayor obstáculo para este sueño es un complejo problema técnico denominado “olvido catastrófico” (Catastrophic Forgetting). En las redes neuronales artificiales, si se intenta enseñar al modelo nueva información después de que su entrenamiento ha concluido, este tiende a reemplazar la información antigua por la nueva en lugar de incorporarla. Olvida “cómo programar” para aprender “cómo cocinar”.
Los investigadores llevan décadas intentando resolver este problema. Ha habido un progreso leve, pero aún no se ha descubierto el método que permita al modelo un crecimiento cognitivo acumulativo y estable sin destruir lo aprendido anteriormente.
Movimientos de los gigantes: Google y OpenAI
A pesar de las dificultades, hay movimientos serios. La empresa Anthropic declaró que se centra en “mejoras incrementales” continuas en lugar de esperar lanzamientos masivos cada pocos años. Google DeepMind publicó recientemente un artículo de investigación que llamó la atención sobre nuevos métodos de aprendizaje continuo. El objetivo final es lograr un sistema que pueda implementarse en el mundo real, aprendiendo de la prueba y el error y de la interacción con los usuarios, para convertirse en un “experto” con el tiempo, en lugar de ser meramente una herramienta estática.
El camino hacia la inteligencia artificial general (AGI)
Ilya Sutskever, ex científico jefe de OpenAI, comparó los modelos actuales con un adolescente genio pero inexperto. “Son estudiantes brillantes”, afirma, pero carecen de experiencia de vida. El aprendizaje continuo es lo que transformará a este “estudiante” en un “experto”. Si las empresas logran este avance, seremos testigos de sistemas de inteligencia artificial que evolucionan y se especializan de forma individual con cada usuario, lo que cambiará para siempre el rostro de la tecnología.
Preguntas frecuentes
Pregunta: ¿Cuál es la diferencia entre el preentrenamiento y el aprendizaje continuo?
Respuesta: El preentrenamiento ocurre una sola vez para construir la “mente” del modelo, mientras que el aprendizaje continuo significa que el modelo sigue evolucionando y adquiriendo información diariamente sin interrupción.
Pregunta: ¿Qué es el “olvido catastrófico”?
Respuesta: Es un fenómeno que ocurre en la inteligencia artificial donde el aprendizaje de nueva información borra o distorsiona la información anterior almacenada en la memoria del modelo.
Pregunta: ¿Los modelos de hoy en día como ChatGPT aprenden de mis conversaciones?
Respuesta: No de forma inmediata y directa en su arquitectura. Las empresas pueden utilizar las conversaciones para mejorar las versiones *futuras*, pero la versión con la que hablas ahora no evoluciona mientras chatea contigo.
