9月9日、Semiconductor Engineeringが「Can GPUs Continue To Dominate AI Compute?」と題した記事を公開した。GPUが世界のAIコンピュート市場で今後も主役であり続けられるか、OpenAI・Google・Metaといったフロンティアモデル企業の独自チップとの競争構図について詳しく論じた内容だ。
GPUは今も7割を握るが、3年で地殻変動が起きている
Epoch.aiのデータによると、現在の世界のAIコンピュート設備容量のうち、**GPUが70%、カスタムシリコン(主にGoogleとAmazon)が30%**を占める。2023年時点ではNvidiaが90%、Googleが10%だった。つまり過去3年でカスタムAIコンピュートが20ポイントのシェアを拡大した計算になる。なお、このデータにはMeta・Microsoft・Cerebrasの分は含まれていない。
重要な文脈として、AIコンピュートの設備容量自体は3年で17倍に拡大している。市場全体が急膨張する中でシェアが動いているため、絶対量ではGPUも引き続き成長している点は押さえておきたい。
最注目:OpenAIの初号機「Jalapeño」がVera Rubinに肉薄
今回の記事で最も衝撃的な報告が、OpenAIの初の推論専用チップ「Jalapeño」だ。Hot Chips 2026で発表されたもので、開発を率いたのはRichard Ho、Ravi Narayanaswami、Chris Learyの3名——いずれもGoogle TPUの出身者である。
Jalapeñoの設計方針は以下の通り:
- 推論(Inference)専用に最適化。プリフィル・デコードの両方をターゲットにし、KV Cache(Key-Valueキャッシュ:Transformerの推論効率化のために過去の計算結果を再利用する仕組み)をローカルメモリに保持する構成
- HBMメモリのボトルネックを回避する設計で、生のメモリ容量からより高いトークンレートを引き出す
- ネットワーク構成:Broadcom Tomahawk 6スイッチで128チップのドメイン、さらに2,048チップのグローバルドメインを構成
ベンチマーク結果は、DeepSeek R1・GPT-OSS・Kimi K2.5でいずれもNvidia GB300を上回った。現時点のベンチマークはSTP(Single-Token Prediction:1トークンずつ順番に生成する標準的な推論方式)のみで、今後MTP(Multi-Token Prediction:複数トークンを並列に予測することでスループットを高める推論方式)を適用すれば3〜5倍の性能向上が見込まれるという。

Fig. 4: DeepSeekのJalapeño vs Nvidia GB300性能比較(出典: OpenAI/Hot Chips 2026)
Vera Rubin NVL72との比較はまだ公式ベンチマークがないが、「GB300比で2〜30倍速いVera Rubin」と、「GB300を上回るJalapeño」を重ねると、JalapeñoはVera Rubinとほぼ同等というのが記事の見立てだ。ただしこれは間接推論であり、公式ベンチマークで直接比較されたものではない点に注意が必要だ。SemiAnalysisも同様の分析を公開している。
制約はある。Jalapeñoは推論専用で、OpenAIの総コンピュートの1/3以上を占めるとされるモデル訓練には使えない。また供給の上限はTSMCのウェハ割り当てで決まる。ただし、Gen2の開発はすでに進行中だ。
なお、NvidiaはOpenAIに300億ドルを出資している。
NvidiaはVera Rubin+LPUで差別化を図る
Nvidiaも手をこまねいているわけではない。8月26日の決算発表でJensen Huangは「需要は超強力で、信じられないことに加速している」と述べ、来会計年度の70%成長を見込む(供給がボトルネック)。
技術面では、Vera Rubin NVL72が主要クラウド(CoreWeave・Google Cloud・Microsoft Azure・Oracle Cloud・Nebius)でラインナップに乗っている。さらに低レイテンシ推論に特化したLPU(Language Processing Unit)技術を組み合わせることで、推論効率を大幅に改善している。

Fig. 3: Vera Rubin+LPUはTPS/MWとTPS/userの両方を向上(出典: Nvidia/Hot Chips 2026)
Nvidiaの強みは単体GPUではなく、NVL72スケールアップネットワーク・BlueField DPU・Spectrum-6スケールアウトネットワーク・Vera CPU・LPUというシステム全体の統合設計にある。データセンターにとって最も希少なリソースは電力であり、TPS/MW(ワットあたりのトークン処理速度)と低レイテンシを同時に向上させる点がVera Rubinの売りだ。GB300比で最大30倍の性能差が出るのは、インタラクティビティが最も高い(=最も価値の高い)ワークロードでのことだという。
Google・Meta・Anthropicも独自路線を加速
GoogleはTPU 8の世代で、訓練用(TPU 8t)と推論用(TPU 8i)を初めて同時投入する。規模が一桁大きくなったことで、2チップ並行開発のコストが現実的になった。Morgan Stanleyの試算によれば、GoogleのTPU売上は今年後半に90億ドル、2027年には840億ドルに達する見込みだ。
Metaは推論チップMTIAの第2世代「MTIA 300」で、大バッチ訓練においてGPUをコスト効率で上回り始めたと報告。MTIA 400はGenAIにも対応する予定で、6か月以上のサイクルで新チップを投入し続ける計画だ。
Anthropicは、OpenAIのハードウェアチームの主要メンバーだったClive Chanを採用し、Claude向けのカスタムチップ開発チームを立ち上げたことを公式に認めた。
各社の動きを並べると、フロンティアモデルを持つ企業が軒並み独自シリコンへ投資を本格化させていることがわかる。共通する動機は「推論コストの削減」と「特定ワークロードへの最適化」だ。汎用性を武器にするNvidiaに対し、各社は自社モデルの特性に合わせた専用設計で対抗しようとしている。
Nvidiaの防衛戦略:供給を押さえる
Nvidiaは技術開発費だけでなく、供給コミットメントを1,190億ドルから2,790億ドルに倍増させており、TSMCとの強固な関係とメモリ購入力で供給面の優位を固めようとしている。これは少なくとも数年間は効力を持つ防衛線になるとみられている。
一方でAMDは、MI455x GPUとHeliosラックで世界シェアを**0%から6%**まで伸ばした。スケールアップ構成は72GPUでBroadcom Ethernetスイッチを採用。ただし今回のHot Chipsではワークロードのパフォーマンスチャートは提示されなかった。
「GPU一強時代が揺らぐ」問いへの答え
記事全体を通じて浮かび上がる構図は、「GPUが敗北する」ではなく「GPUが唯一の選択肢でなくなりつつある」というものだ。市場は17倍に拡大しており、GPUの絶対量は今後も増え続ける。しかしJalapeñoの登場が示すように、推論という巨大な市場において、カスタムシリコンは「ニッチな代替手段」から「主要プレイヤーと対等に競える選択肢」へと格上げされた。
Nvidiaの優位が崩れるとすれば、それは技術面よりも供給とエコシステムの側面からだと記事は示唆している。CUDAを中心としたソフトウェア資産・パートナーシップ・供給コミットメントが、技術的な追い上げを吸収するバッファーになっているからだ。各社の独自チップが訓練領域にも本格展開され、そのエコシステムが成熟したとき、競争の構図は現在とは大きく異なっているだろう。
詳細はCan GPUs Continue To Dominate AI Compute?を参照していただきたい。