OpenAIの推論チップJalapeño、初のベンチマークでNvidia上回る

OpenAIは2026年8月25日火曜日に開催されたHot Chips会議を通じて、社内で開発を進めてきた推論チップ「Jalapeño」についてこれまでで最も詳細な情報を公開し、新システムの初のベンチマーク結果を発表した。SemiAnalysisのベンチマーク「InferenceX」でテストしたところ、Jalapeñoはユーザーあたりのトークン処理数、キロワットあたりのスループットの両方で、現在利用可能な最良の推論プロセッサを上回った。OpenAIが自社のシリコン戦略について公開の数値を示したのはこれが初めてとなる。

結論として、結果は最先端技術に対して非常に、非常に大きな性能上の進歩を示しています。Jalapeñoは単位電力あたりでより多くのAI処理をこなせると同時に、より速く応答を返すことができます。多くの顧客にサービスを提供する上で非常に効率的でありながら、同時に非常に低いレイテンシーを実現できます。

JalapeñoとNvidiaのBlackwellとの比較

OpenAIが公開した比較は、大規模AI推論における現在の業界基準であるNvidiaのBlackwellアーキテクチャを基盤とするシステムを対象に行われた。OpenAIのハードウェア担当バイスプレジデント、リチャード・ホー氏は記者団に対し、Jalapeñoは通常AIシステムがどちらか一方を選ばなければならないレイテンシーの低さとスループットの高さを同時に実現する「両方の長所」を提供すると説明した。OpenAI自身も、この比較はあくまで一時点でのスナップショットにすぎず、Jalapeñoが本格展開される頃には競合するハードウェアも大きく進歩している可能性が高いと認めている。

• GPT-OSS 120B、DeepSeek R1、Kimi K2.5 1Tの各モデルにおいて、比較対象のNvidia GB200およびGB300システムに対しワットあたり1.5倍から1.9倍のAI処理量
• 同じ3モデルにおいてエンドツーエンドのレイテンシーが1.7倍から3.6倍低い
• AIシステムが推論処理をどのように扱うかを測定するためSemiAnalysisが構築したテストプラットフォーム「InferenceX」でベンチマークを実施
• テスト時点で公開されている最良の記録と比較、Nvidiaのスーパーチップ「GB200」「GB300」を使用

Broadcomと、OpenAI自身のモデルを活用して開発

JalapeñoはOpenAIがBroadcomと緊密に連携して開発したもので、同社は自社モデルがチップの開発プロセスに活用されたと述べている。OpenAIはJalapeñoを、AI製品、モデル、チップ、メモリーを個別に後から適応させるのではなく、共に設計する複数世代にわたるプラットフォームの出発点と位置付けている。この「フルスタック」的アプローチにより、エンジニアは推論プロセスの中で摩擦を生みやすい特定のフェーズ、とりわけシステムがユーザーから送られたすべての内容を処理・解釈する「プリフィル」と、それに続く通信ステップ(ワークロードの拡大に伴いボトルネックとなりやすい)に的を絞って取り組めたという。

私たちはデータの移動と通信の遅延を最小化するようJalapeñoを設計しました。これは、応答を生成する際に使用されるKVキャッシュを含むモデルの状態を明示的に配置し、ローカルに保持できることを意味します。その間、システムは各推論フェーズに応じて計算、メモリー、ネットワークの適切な組み合わせを起動します。

小規模な初期展開、Nvidiaからの全面移行ではない

ホー氏は、Jalapeñoは2026年末までに「ごく小規模な量」で展開が始まる見込みで、より本格的な展開は2027年になると述べた。OpenAIは来年展開するチップの数については明らかにしていない。ベンチマーク結果にもかかわらず、ホー氏はOpenAIが計算基盤全体をJalapeñoに置き換える計画はないと明言した。同社全体の計算戦略には引き続きNvidiaを含む「非常に優れたパートナー」が含まれており、OpenAIは既存サプライヤーからの調達を継続しながら、新チップの第2世代・第3世代の開発も進めていく方針だという。

Jalapeño自体は今年の早い時期にすでに公表されていたが、その正確な時期については報道が分かれており、2025年10月とする報道と2026年6月とする報道がある。火曜日のイベントは、当初の構想を裏付ける初の具体的な性能数値を提供する場となった。OpenAIはこのプラットフォームを、ハードウェア、メモリー、ネットワークを別々に調達するのではなく、共に調整しながら世代を重ねて進化させていく考えだ。

日本企業にとって本番環境でのAI利用は何が変わるか

レンタルしたAI推論能力の上で製品を稼働させている日本企業にとって、Jalapeñoは購入できるチップというより――OpenAIは外部顧客への販売を行っていない――今後2〜3年の推論コストとレイテンシーがどこへ向かうかを示すシグナルとしての意味合いが大きい。トークンあたりの提供コスト削減を競うクラウド事業者やAIラボは、時間とともに効率化の成果を、より安価なAPI料金や同じ価格でのより速い応答という形で顧客に還元する傾向がある。現在GPUベースの推論能力に対価を支払い、Nvidiaベースのクラウド事業者との長期契約を結ぶべきか判断しかねている日本企業にとって、現在の価格とレイテンシーの水準が固定された天井ではないこと、そして推論ハードウェアを単一の供給元に依存する状況が2027年までに変わり得ることを示す、具体的な材料がまた一つ増えたことになる。