9月2日、Rahim Amirが「OpenAI lifts the lid on its in-house Jalapeño chip」と題した記事を公開した。OpenAIが自社開発の推論用AIチップ「Jalapeño」の初公開ベンチマークでNvidiaのGB200/GB300を上回る電力効率を主張した——だが数字の読み方には注意が必要だ。電力効率での優位と絶対性能での劣位が混在する今回の発表は、「NvidiaキラーAIチップ」という単純な図式に収まらない。
「NvidiaのGB300越え」の実態
8月25日、OpenAIはコンピュータアーキテクチャの学術カンファレンス「Hot Chips」に登壇し、Broadcomと共同開発した推論アクセラレータ「Jalapeño」の初のパフォーマンス数値を公開した。
報告された数字は以下の通りだ。
- スループット（処理量）：NvidiaのGB200/GB300ラックシステム比で1ワットあたり1.5〜1.9倍
- エンドツーエンドのレイテンシ（応答遅延）：同比で1.7〜3.6倍低減
ただし、この比較には重要な前提がある。JalapeñoのTDP（熱設計電力）は700Wであるのに対し、比較対象のNvidia GB200は1200W、GB300は1400Wだ。つまり「1ワットあたり」の比率が大きく見えるのは、そもそもJalapeñoが消費電力の少ない設計だからだ。絶対的なスループット（チップ単体の処理能力）ではGB300がJalapeñoを20〜25%上回ると記事中でも明記されている。
OpenAIのハードウェアプログラムを率いるRichard Ho氏は「最先端の水準に対して非常に大きな性能向上を示している」とプレス向けコールで述べた。
ベンチマークの中身：何を測り、何を測っていないか
テストには、AIインフラ分野で業界から広く参照される独立調査機関SemiAnalysisの公開ベンチマークスイート「InferenceX」が使われた。対象モデルは以下の3つで、入力8,000トークン・出力1,000トークンの設定だ。
- GPT-OSS 120B（OpenAI製）：GB200比で1.9倍の効率
- DeepSeek R1 670B：GB300比で1.7倍
- Moonshot AI Kimi K2.5（1兆パラメータ）：GB300比で1.5倍
一方、GPT-OSS 120BをGB300と直接比較した数値は公開されていない。また、Jalapeñoのベンチマークはシングルトークン予測のみで実施されており、Speculative Decoding（投機的デコーディング）（ドラフトモデルで候補トークンを先読みし、本モデルで一括検証することでスループットを高める手法）や Prefill-Decode分離（入力処理フェーズと出力生成フェーズを別々のハードウェアで担当させるアーキテクチャ最適化）といった手法は使っていない。Nvidiaの実運用環境ではマルチトークン予測が一般的に使われており、同条件でGB300と比較すると効率の優位性は最大約1.5倍にとどまる。
さらに、NvidiaがHBM4搭載の次世代GPUとして発表済みの「Vera Rubin」との比較データは一切公開されていない。
チップのアーキテクチャ：メモリ設計が特徴的
OpenAIは「データ移動と通信遅延の最小化」を設計思想の中心に置いたと説明している。コアとHBM（広帯域幅メモリ）はスライス単位に分割され、各コアスライスが自身のメモリへの低レイテンシアクセスを保持する構造だ。同期処理は専用の集合通信ネットワークに分担させている。
メモリ仕様は以下の通りだ。
- HBM4スタック数：6スタック / パッケージ
- 総容量：216 GiB（GB300の288GBより少ない）
- 帯域幅：15.4 TB/s（GB300のHBM3Eを大幅に上回る）
- メモリ容量/消費電力：GB300比で約50%多い
JalapeñoはASIC（特定用途向け集積回路）であり、推論（学習済みモデルを使った予測・生成）に特化した設計だ。学習には引き続きNvidiaのGPUが不可欠で、Richard Ho氏も「Nvidiaのチップは今後も大量に必要」と述べている。
現時点での制約と今後のロードマップ
現在公開された数値はすべて初期リビジョン（A0シリコン）によるものだ。すでにファブに投入されている次期リビジョン（B0）では電力効率が約25%向上する見込みで、量産は2027年にかけて段階的に拡大する予定だとされている。
業界への影響：競合と協調が交差するNvidiaとの関係
Jalapeño発表の直前、NvidiaはOpenAIのオハイオ州データセンター建設に対して1,050億ドルの融資を支援することに合意したばかりだ。Nvidiaがトップ顧客の競合チップ開発を資金面で支援するという、一見矛盾した構図が生まれている。Richard Ho氏が「Nvidiaのチップは今後も大量に必要」と述べた背景には、こうした相互依存関係がある。
競合面では、調査会社OmdiaのAlexander Harrowell氏がCNBCに対し「これはNvidiaにとって最大の競合脅威だ」と述べた。AI向けインフラへの設備投資の約半分が、独自チップを持つかその可能性がある企業から来ているという業界トレンドがその根拠だ。Yole GroupのAdrien Sanchez氏は、Nvidiaの最も成長が速い事業領域である推論分野の利益率に圧力をかけるものだと分析している。
電力効率での優位を武器に推論コストの削減を狙うOpenAIと、絶対性能と生態系の厚みで応じるNvidia——両社の関係は競合・協調が複雑に絡み合ったまま、今後も続く見通しだ。
詳細はOpenAI lifts the lid on its in-house Jalapeño chipを参照していただきたい。
