OpenAI、Jalapeño推論チップの結果を公開　自社シリコンがAI基盤戦略の焦点に

OpenAIは、初の自社推論チップ「Jalapeño」の測定結果を公開し、長く注目されてきたハードウェア計画を戦略段階から性能データの段階へ進めた。同社は8月25日、SemiAnalysisのInferenceXベンチマークで、Jalapeñoが比較対象システムより優れたスループット、遅延、電力効率の組み合わせを示したと発表した。巨額の計算投資が持続可能な経済性につながるかを問われるAI業界にとって、これは単なるチップ発表ではない。

Jalapeñoは、モデルがユーザーの要求に答え、エージェントを動かし、トークンを逐次生成する推論段階を狙う。OpenAIはGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tでテストしたと説明し、アーキテクチャが自社モデルだけに限定されないことを示した。報告によれば、ピークスループット時のAI作業量は電力あたり1.5倍から1.9倍、エンドツーエンド遅延は1.7倍から3.6倍低くなり、対話性の高い負荷では2.1倍から4.1倍の性能向上があった。

電力あたり性能が強調されるのは、生成AIの経済性が変わっているからだ。フロンティア企業は訓練クラスタに大規模投資してきたが、推論費用は製品が使われるたびに発生する。エージェントはこの問題をさらに大きくする。ファイルを読み、ツールを呼び、中間結果を確認し、何度も処理を繰り返すため、一つひとつの遅延や消費電力が長いタスク全体で積み上がる。

OpenAIは、Jalapeñoをこうした負荷に合わせて最初から設計したとする。モデル状態や生成時に使われるKVキャッシュを、必要な計算資源とネットワークの近くに保ち、データ移動を減らす狙いだ。言語モデルのサービスには、長い入力を処理する計算中心の段階と、次のトークンを生成するメモリ帯域・通信中心の段階がある。片方だけ速いシステムでは、実運用の体感速度は伸びにくい。

同社はJalapeñoを、より大きなフルスタック戦略の証拠としても位置づける。初期モデルが設計と立ち上げを助け、最新モデルが最適化とプログラミングを支援しているという。選定された注意機構と混合専門家ブロックでは、AIが生成した実装が従来の人間専門家の実装より1.5倍から1.8倍速かったとも説明した。ただし、それは一部ブロックでの結果であり、モデル全体の数字ではない。

OpenAIは年末までにJalapeñoを自社計算基盤へ展開し始める計画で、量産認定やソフトウェア成熟化も続ける。第2世代、第3世代の設計も進行中だという。ベンチマーク主張は実トラフィックでの検証を必要とするが、方向性は明確だ。AIインフラの次の競争は、最大モデルを作ることだけではなく、強力なモデルを一日中使える速度と効率で動かせるかに移っている。