Contenido del artículo:
- Introducción: La crisis silenciosa de la inteligencia artificial
- «IA de los Habsburgo»: cuando el modelo colapsa
- El origen del problema: la escasez de datos humanos
- Síntomas visibles: imágenes amarillentas y respuestas repetitivas
- Defensas frágiles: ¿podemos detener el colapso?
- Una carrera contra el tiempo
- Conclusión: ¿hacia un futuro más monótono?
Introducción: La crisis silenciosa de la inteligencia artificial
Durante varios meses, un extraño fenómeno ha desconcertado a los usuarios de internet: las imágenes generadas por inteligencia artificial adquieren un tono amarillento. Ya sea en memes, fotografías o vídeos, este sesgo visual se ha vuelto tan omnipresente que ahora circulan en la red numerosos tutoriales sobre cómo «eliminar el color amarillo» de estas imágenes. Para los especialistas, esto va más allá de una simple cuestión estética. Esta uniformidad podría ser el signo de una crisis más profunda que amenaza a la inteligencia artificial. ¿La causa? Una forma de «endogamia» digital que se produce cuando los modelos de inteligencia artificial se entrenan con datos ya producidos por otros sistemas de inteligencia artificial.
«IA de los Habsburgo»: cuando el modelo colapsa
«Entrenar a las futuras generaciones de modelos de software con las generaciones anteriores conduce inevitablemente al colapso del modelo», afirma Alain Goudey, vicedecano de tecnologías digitales en la escuela de negocios NEOMA. Este fenómeno fue bautizado como «IA de los Habsburgo» por el investigador Jathan Sadowski, ya que recuerda a los efectos negativos de la endogamia en la dinastía de los Habsburgo. Y los experimentos hablan por sí solos. En un estudio publicado en la revista Nature, investigadores británicos y canadienses entrenaron un modelo de inteligencia artificial para dibujar números escritos a mano basándose en un conjunto de datos reales. Luego repitieron el proceso, reutilizando los números generados por la IA en cada etapa. Después de 20 generaciones, los números se volvieron borrosos y, tras 30 generaciones, convergieron en una sola forma indistinguible.
El origen del problema: la escasez de datos humanos
Esta degradación proviene de la escasez de datos humanos utilizables. Los principales modelos, como ChatGPT, Gemini y Claude, ya han sido entrenados con la mayor parte del contenido disponible en internet. Para seguir creciendo, las empresas recurren a los datos sintéticos, que son más abundantes pero también menos costosos y libres de derechos de propiedad. El problema es que estos datos suelen ser de menor calidad, lo que magnifica el riesgo de «endogamia». Según Goudey, «basta con que haya un 0.01% de datos contaminados para provocar una caída drástica en el rendimiento, ya sea en imágenes, textos o vídeos».
Síntomas visibles: imágenes amarillentas y respuestas repetitivas
En el ámbito de los textos, el resultado no es mucho más tranquilizador: tras varias iteraciones, un chatbot encargado de completar la frase «Para cocinar un pavo de Acción de Gracias, tú…» comenzó a recitar listas interminables antes de enredarse en repeticiones absurdas. Goudey explica: «El sistema tiende a centrarse en la media y los valores atípicos empiezan a desaparecer. Esto se conoce como colapso temprano, seguido de un colapso tardío, donde las respuestas se agotan y a veces se distancian mucho de la realidad».
Defensas frágiles: ¿podemos detener el colapso?
Para evitar este autodeterioro, la solución más evidente sigue siendo priorizar el contenido humano y diverso. Algunas empresas, como OpenAI y Mistral AI, ya están estableciendo asociaciones con bancos de imágenes y agencias de noticias. Otras se centran en detectar y etiquetar el contenido generado por inteligencia artificial. Sin embargo, Goudey advierte: «Actualmente no existe una manera de garantizar que un contenido haya sido creado enteramente por un humano». Las marcas de agua, que consisten en insertar señales reconocibles para identificar el contenido creado por inteligencia artificial, siguen siendo débiles y fáciles de eludir.
Una carrera contra el tiempo
Se están explorando otros métodos: limpiar los conjuntos de datos de entrenamiento de los modelos mediante la detección y eliminación de contenido «contaminado», o recopilar conjuntos de datos de la más alta calidad posible a partir de fuentes humanas. Goudey señala: «Los principales editores, como OpenAI trabajando con The Associated Press y Mistral AI con Agence France-Presse, buscan garantizar que las futuras generaciones de modelos se entrenen con datos originales. Pero es una carrera contra el tiempo, ya que el fenómeno es exponencial».
Conclusión: ¿hacia un futuro más monótono?
Sin una corrección de rumbo, la inteligencia artificial podría entrar en una nueva era: una extrañamente más sesgada y monótona. La crisis de la «endogamia» es un claro recordatorio de que la calidad de la inteligencia artificial depende directamente de la calidad y variedad de los datos que consume. Sin un suministro constante de contenido humano original y fresco, la inteligencia artificial podría verse atrapada en una cámara de eco de su propia creación, repitiendo indefinidamente sus errores y sesgos.
