OpenAIs Jalapeño-Ergebnisse machen eigene Inferenzchips zur Infrastrukturstrategie

OpenAI hat die ersten gemessenen Ergebnisse für Jalapeño veröffentlicht, seinen ersten eigenen Inferenzchip, und damit ein lange beobachtetes Hardwareprojekt in die Phase konkreter Leistungsdaten gebracht. Das Unternehmen erklärte am 25. August, Jalapeño habe im InferenceX-Benchmark von SemiAnalysis eine stärkere Kombination aus Durchsatz, Latenz und Energieeffizienz als Vergleichssysteme geliefert. Für eine KI-Branche, die den wirtschaftlichen Nutzen massiver Rechenausgaben belegen muss, ist das mehr als eine Chipmeldung.

Jalapeño zielt auf Inferenz, also die Produktionsphase, in der Modelle Nutzeranfragen beantworten, Agenten betreiben und Ausgaben Token für Token erzeugen. OpenAI testete den Beschleuniger mit GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T und wollte damit zeigen, dass die Architektur nicht nur für eigene Modelle geeignet ist. Über die drei Modelle hinweg meldet das Unternehmen 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt bei Spitzendurchsatz und 1,7- bis 3,6-mal niedrigere Ende-zu-Ende-Latenz.

Der Fokus auf Leistung pro Watt spiegelt die veränderte Ökonomie generativer KI wider. Frontier-Labore haben viel in Trainingscluster investiert, doch Inferenzkosten entstehen jedes Mal neu, wenn ein Produkt genutzt wird. Agenten verstärken den Druck, weil sie nicht nur einmal antworten. Sie lesen Dateien, rufen Werkzeuge auf, prüfen Zwischenergebnisse und wiederholen viele Schritte. Kleine Verzögerungen oder Energiekosten können sich über lange Aufgaben zu einem spürbaren Margenproblem summieren.

OpenAI sagt, Jalapeño sei von Beginn an für diese Lasten entwickelt worden. Das System soll Datenbewegung verringern, indem Modellzustand und KV-Cache nahe an den benötigten Rechen- und Netzwerkressourcen bleiben. Sprachmodell-Inferenz verläuft in unterschiedlichen Phasen: Das Verarbeiten langer Prompts ist rechenintensiv, die anschließende Token-Erzeugung hängt stärker an Speicherbandbreite und Kommunikation. Ein gutes System muss beides beherrschen.

Das Unternehmen stellt Jalapeño zugleich als Beleg einer Full-Stack-Strategie dar. Frühere Modelle halfen beim Entwurf und Hochfahren des Chips, neuere Modelle unterstützen Optimierung und Programmierung. Für ausgewählte Aufmerksamkeits- und Mixture-of-Experts-Blöcke seien KI-generierte Implementierungen 1,5- bis 1,8-mal schneller gewesen als frühere menschliche Versionen. OpenAI betont, dass diese Werte nur für ausgewählte Blöcke gelten, nicht für komplette Modelle.

OpenAI will Jalapeño bis Jahresende in der eigenen Recheninfrastruktur einsetzen und arbeitet weiter an Produktionsqualifikation und Software-Reife. Zweite und dritte Generationen sind bereits in Entwicklung. Die Benchmark-Aussagen müssen sich im realen Kundenverkehr bewähren, doch die Richtung ist eindeutig. Die nächste Phase der KI-Infrastruktur dreht sich nicht nur um größere Modelle, sondern darum, leistungsfähige Modelle schnell, effizient und bezahlbar dauerhaft laufen zu lassen.