OpenAI convierte los resultados de Jalapeño en una historia estratégica de infraestructura

OpenAI publicó los primeros resultados medidos de Jalapeño, su primer chip de inferencia personalizado, llevando un esfuerzo de hardware largamente observado desde la estrategia hacia los datos de rendimiento. La compañía dijo el 25 de agosto que Jalapeño logró una mejor combinación de rendimiento, latencia y eficiencia energética que sistemas comparables en el benchmark InferenceX de SemiAnalysis. Para una industria presionada a demostrar que el gasto masivo en cómputo puede traducirse en economía sostenible, el anuncio marca algo más que una actualización técnica.

Jalapeño está dirigido a la inferencia, la fase de producción en la que los modelos responden a usuarios, operan agentes y generan salida token por token. OpenAI afirmó que probó el acelerador con GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T, una elección que muestra que la arquitectura no está limitada a sus propios modelos. En los tres casos, la empresa reportó entre 1,5 y 1,9 veces más trabajo de IA por vatio en rendimiento máximo y entre 1,7 y 3,6 veces menos latencia de extremo a extremo.

El foco en rendimiento por vatio refleja el cambio económico de la IA generativa. Los laboratorios de frontera han invertido mucho en clústeres de entrenamiento, pero la inferencia es el costo que se repite cada vez que se usa un producto. Los agentes intensifican esa presión porque no responden una sola vez. Leen archivos, llaman herramientas, inspeccionan resultados y recorren muchos pasos. Un pequeño retraso o costo energético en cada etapa puede convertirse en un problema de experiencia y márgenes.

OpenAI dice que Jalapeño fue diseñado alrededor de esas cargas, no adaptado desde supuestos generales de aceleradores. El sistema intenta reducir movimiento de datos manteniendo el estado del modelo, incluido el KV cache utilizado durante la generación, cerca de los recursos de cómputo y red que lo necesitan. La inferencia de lenguaje pasa por fases distintas: procesar una entrada larga exige cómputo, mientras generar tokens suele depender de memoria y comunicación.

La compañía también presentó Jalapeño como parte de una estrategia de pila completa. Modelos anteriores ayudaron a diseñar y activar el chip, mientras que modelos más recientes apoyan la optimización y programación. OpenAI dijo que algunas implementaciones generadas por IA para bloques de atención y mezcla de expertos fueron entre 1,5 y 1,8 veces más rápidas que versiones humanas previas, aclarando que el resultado aplica a bloques seleccionados, no a modelos completos.

OpenAI planea empezar a desplegar Jalapeño dentro de su infraestructura de cómputo antes de fin de año, mientras continúa la calificación de producción y la maduración del software. También dijo que la segunda y tercera generación ya están en desarrollo. Las cifras deberán validarse en tráfico real de clientes, pero la dirección es clara. La próxima fase de infraestructura de IA no consiste solo en construir el modelo más grande, sino en ejecutar modelos cada vez más capaces con velocidad, eficiencia y costo suficientes para usarse todo el día.