Las pruebas del chip Jalapeño demuestran la posibilidad de romper el compromiso tradicional entre la latencia y el rendimiento ultraalto en el procesamiento de modelos de inferencia masivos.
Índice del artículo:
- Resultados estándar y desafío directo al dominio de Nvidia
- Sistema de procesamiento gigante a nivel de bastidor
- Velocidad de desarrollo y adopción de la inteligencia artificial
- Hoja de ruta de despliegue y producción futura
- Notas técnicas y competencia a gran escala
- Preguntas frecuentes
Resultados estándar y desafío directo al dominio de Nvidia
OpenAI publicó el martes los resultados detallados de pruebas estándar que muestran que su chip para operaciones de inferencia «Jalapeño» supera a los productos de Nvidia y otros fabricantes de semiconductores en tasas de rendimiento general y eficiencia energética, lo que representa el desafío público más claro y completo presentado por la empresa líder contra el dominio absoluto de Nvidia en el mercado de hardware de computación inteligente.
La publicación de estos datos proactivos se produjo justo antes de la presentación oficial de OpenAI en la conferencia de semiconductores «Hot Chips» en la Universidad de Stanford. Las cifras mostraron que el chip Jalapeño completa cargas de trabajo de inteligencia artificial entre 1.5 y 1.9 veces superiores a las de los sistemas «GB200» y «GB300» de Nvidia por vatio de energía, al tiempo que reduce la latencia general entre 1.7 y 3.6 veces al ejecutar modelos avanzados como «DeepSeek-R1», la versión de un billón de parámetros del modelo «Kimi K2.5» y el modelo de código abierto de OpenAI «GPT-OSS-120B».
Sistema de procesamiento gigante a nivel de bastidor
El chip se desarrolló en estrecha asociación con la empresa global Broadcom y se diseñó como un circuito integrado de aplicación específica (ASIC) totalmente dedicado a las tareas de inferencia de modelos lingüísticos de gran tamaño. A nivel de servidores agrupados, cada bastidor de servidores consta de 128 aceleradores informáticos que proporcionan una potencia de cálculo asombrosa de hasta 1.7 exaflops con precisión de 4 bits, respaldados por una capacidad de 27.5 terabytes de memoria de ancho de banda alto («HBM4») y un ancho de banda de memoria cercano a los 2 petabytes por segundo.
Richard Ho, vicepresidente de hardware en OpenAI, declaró a los periodistas que el chip ofrece «lo mejor de ambos mundos» al combinar una baja latencia con un alto rendimiento, mientras que los sistemas de inteligencia artificial tradicionales se ven obligados a sacrificar uno en favor del otro. Según la firma de investigación independiente «SemiAnalysis», que realizó pruebas del paquete estándar «InferenceX» en el chip dentro de los laboratorios de OpenAI, Jalapeño alcanzó una velocidad de procesamiento superior a los 700 tokens por segundo por usuario en un nivel de concurrencia simple utilizando el modelo DeepSeek-R1, sin necesidad de técnicas de decodificación especulativa o de desacoplamiento del prellenado y la decodificación en las que confían los competidores para mejorar sus cifras.
Velocidad de desarrollo y adopción de la inteligencia artificial
OpenAI logró pasar de la contratación inicial del equipo de hardware a la finalización del diseño definitivo para su envío a fábrica en tan solo 16 meses, entregando el diseño a las plantas de fabricación en noviembre de 2025. La empresa explicó que el uso de herramientas de inteligencia artificial en la ingeniería de circuitos contribuyó a reducir el área de las unidades de instrucciones múltiples en un 8 % y el área del motor de matrices en un 10 %.
A pesar de estos logros, el chip sigue estando destinado exclusivamente a las operaciones de inferencia y a la ejecución de modelos, y no admite el entrenamiento de nuevos modelos. Richard Ho comentó al respecto: «Necesitaremos cantidades masivas de capacidad informática en el futuro, y el chip Jalapeño es una parte de esa solución; el proyecto Cerberus es otra parte, el hardware de Nvidia es otra y los chips de AMD también forman parte de ella».
Hoja de ruta de despliegue y producción futura
La empresa planea desplegar el chip de forma limitada dentro de sus centros de datos para finales de 2026, y la fase de producción comercial a gran escala comenzará a lo largo de 2027. Asimismo, la compañía reveló que ya ha comenzado el desarrollo de la segunda generación del chip, con planes iniciales para la tercera generación. Ho confirmó que OpenAI no planea vender el chip a terceros y declaró: «Tenemos una necesidad interna tan urgente de él que no podemos imaginar cuándo podremos venderlo a otros».
Notas técnicas y competencia a gran escala
SemiAnalysis señaló algunas advertencias técnicas: las pruebas se basaron en escenarios de procesamiento que incluían 8,000 tokens de entrada y 1,000 tokens de salida, los cuales difieren de las cargas de trabajo de agentes complejos que ejercen presión sobre la memoria caché y el enrutamiento. También indicaron que la comparación con la arquitectura más reciente «Vera Rubin» de Nvidia será más equitativa. Este chip se une a iniciativas similares de gigantes tecnológicos como las unidades de procesamiento tensorial (TPU) de Google, los diseños de Microsoft y Amazon, y el proyecto de chips de Anthropic.
Preguntas frecuentes
Pregunta: ¿Qué es el chip Jalapeño y quién lo desarrolló?
Respuesta: Es un chip informático dedicado a la inferencia desarrollado por OpenAI en colaboración con Broadcom para acelerar la ejecución de modelos lingüísticos masivos con una eficiencia energética excepcional.
Pregunta: ¿Cómo supera el chip a los sistemas actuales de Nvidia?
Respuesta: Ofrece una eficiencia entre 1.5 y 1.9 veces mayor por vatio y reduce la latencia hasta 3.6 veces en comparación con los sistemas GB200 y GB300 de Nvidia.
Pregunta: ¿Venderá OpenAI el chip a desarrolladores externos?
Respuesta: No, la empresa confirmó que todos los chips producidos se utilizarán exclusivamente para satisfacer las enormes necesidades informáticas internas de sus centros de datos y sistemas inteligentes.
