Durante su conferencia en Berlín, Nvidia reveló la plataforma de software Minerva, diseñada para predecir fallos en servidores de inteligencia artificial mediante la creación de un mapa de conocimiento dinámico que vincula cientos de miles de procesadores con las tareas de entrenamiento en ejecución.
Lanzamiento de la plataforma Minerva en GTC Berlin
Mapa de conocimiento unificado para centros de datos gigantescos
Resultados de rendimiento temprano e integración con la plataforma Vera Rubin
Primeros clientes y socios de distribución en fábricas de inteligencia artificial
Preguntas frecuentes
Lanzamiento de la plataforma Minerva en GTC Berlin
Nvidia lanzó el jueves una nueva plataforma de software llamada «Minerva», diseñada específicamente para detectar y monitorizar piezas y componentes que comienzan a fallar o degradarse dentro de clústeres masivos de unidades de procesamiento gráfico antes de que ralenticen el flujo de trabajo o interrumpan las tareas informáticas. La compañía afirma que la plataforma «Minerva» integra datos de telemetría procedentes de la infraestructura y de las cargas de trabajo de inteligencia artificial, ejecutando sobre ellos modelos de IA creados específicamente para este propósito con el fin de proporcionar a los operadores de centros de datos alertas y advertencias tempranas y precisas.
El anuncio de la nueva plataforma se produjo durante los eventos de la conferencia «GTC Berlin» de Nvidia, celebrada del 20 al 22 de octubre. La plataforma «Minerva» refuerza los esfuerzos estratégicos de Nvidia por vender paquetes de software y servicios integrados que van más allá del simple suministro de chips a las empresas que construyen centros de datos gigantescos de inteligencia artificial en todo el mundo.
Mapa de conocimiento unificado para centros de datos gigantescos
Nvidia explica que, en centros de datos de esta escala masiva, un solo componente con un rendimiento decreciente puede ralentizar toda una tarea de entrenamiento de modelos de inteligencia artificial. Una señal de advertencia temprana podría ser un aumento de la temperatura en una GPU en comparación con las vecinas, o la pérdida de parte de la eficiencia de una unidad de almacenamiento NVMe de alta velocidad bajo una intensa presión operativa. El problema se complica aún más porque las herramientas de monitorización tradicionales suelen mantener separados a los equipos de redes, computación, fiabilidad de sitios e ingeniería de aprendizaje automático.
Para abordar esta fragmentación, la plataforma «Minerva» extrae señales y datos operativos de las GPU, equipos de red, unidades de almacenamiento, programadores de tareas y cargas de trabajo, integrándolos todos en un único gráfico de conocimiento dinámico. Este gráfico conecta los componentes físicos, como las tarjetas de red SuperNIC, los conmutadores y los cables, directamente con las tareas de software que ejecutan, permitiendo a los operadores rastrear cualquier tarea lenta hasta el componente físico específico que causa el retraso, incluso en clústeres que agrupan cientos de miles de GPU.
Mediante el uso de métodos de aprendizaje automático supervisado y no supervisado, la plataforma analiza miles de millones de puntos de datos por hora. Aprende el comportamiento operativo normal del sistema, predice fallos emergentes antes de que ocurran y consolida tormentas de alertas correlacionadas en un único incidente claro con la identificación de su causa raíz probable. Además, un asistente de inteligencia artificial integrado dentro de la plataforma responde a las preguntas de los operadores sobre el estado de salud del clúster informático utilizando un lenguaje natural simplificado y sugiere las correcciones adecuadas, permitiendo a los equipos técnicos aplicar dichas correcciones de forma manual o vincular «Minerva» a sus propios sistemas de automatización.
Resultados de rendimiento temprano e integración con la plataforma Vera Rubin
Nvidia informó que los despliegues iniciales de la plataforma «Minerva» mostraron una mejora tangible en la eficiencia operativa, representada por un aumento del 20 % en el tiempo medio entre interrupciones, junto con una reducción significativa del 63 % en el tiempo medio de reparación.
La compañía también registró una reducción en el ruido de alertas falsas o repetitivas de hasta el 99.9 %, y logró ganancias del 2 % en las horas de trabajo reales y productivas de las GPU. La página oficial del producto describe a «Minerva» como una parte integral de la arquitectura de computación avanzada «Vera Rubin».
Primeros clientes y socios de distribución en fábricas de inteligencia artificial
Core Scientific ya ha comenzado a utilizar la plataforma «Minerva» en sus operaciones. Denis Skrynikov, director de tecnología de Core Scientific, declaró: «La plataforma Nvidia Minerva proporciona a nuestro equipo de operaciones una visión unificada y exhaustiva de la red, las GPU y las tareas en ejecución, lo que nos permite centrarnos más en el mantenimiento proactivo en lugar de perder tiempo en la resolución de problemas». Junto con Core Scientific, empresas como Olani, Bettr.ai, IBM, Geo, Lambda, Quik.ai y Tesla planean desplegar la plataforma en sus centros. En virtud de un acuerdo alcanzado el pasado mes de mayo, Nvidia tiene derecho a invertir hasta 2.100 millones de dólares en Core Scientific, una empresa que anteriormente se dedicaba a la minería de Bitcoin.
En cuanto a la distribución comercial, los fabricantes mundiales de servidores Dell Technologies, Lenovo y Supermicro ofrecerán la plataforma «Minerva» como parte de sus carteras de operaciones para fábricas de inteligencia artificial. Lambda indicó en una publicación de blog el miércoles que el objetivo principal para sus usuarios es lograr «menos interrupciones en las cargas de trabajo, reparaciones más rápidas, mayor rendimiento neto y la generación de un mayor número de tokens». Nvidia aún no ha revelado los detalles de precios de la nueva plataforma.
Preguntas frecuentes
Pregunta: ¿Cuál es la función de la nueva plataforma Minerva lanzada por Nvidia?
Respuesta: Minerva es una plataforma de software basada en inteligencia artificial para monitorizar piezas y componentes degradados en clústeres masivos de GPU y predecir fallos antes de que ralenticen las tareas de entrenamiento y ejecución de inteligencia artificial.
Pregunta: ¿Cuáles son los principales resultados numéricos logrados por la plataforma en las pruebas iniciales?
Respuesta: La plataforma logró un aumento del 20 % en el tiempo medio entre interrupciones, una reducción del 63 % en el tiempo medio de reparación, una disminución del ruido de alertas de hasta el 99.9 % y un incremento del 2 % en las horas de trabajo efectivas de las GPU.
Pregunta: ¿Cómo aborda la plataforma Minerva el problema de la fragmentación de los equipos de monitorización en los centros de datos?
Respuesta: La plataforma recopila señales de los procesadores, redes, almacenamiento y programadores de tareas en un gráfico de conocimiento dinámico unificado que analiza miles de millones de datos por hora y vincula cada tarea de software con los componentes físicos que la ejecutan.
Pregunta: ¿Quiénes son los principales clientes y primeros socios de la plataforma Minerva?
Respuesta: Core Scientific utiliza actualmente la plataforma, y empresas como IBM, Tesla, Lambda, Geo, Bettr.ai, Olani y Quik.ai planean implementarla, mientras que Dell, Lenovo y Supermicro la proporcionarán dentro de sus soluciones.
