8月25日、Hassan Mujtabaが「NVIDIA Vera Rubin Records A Massive 30x Increase In Throughput Per Watt Than Blackwell While Offering a 35x Token Cost Reduction Across Agentic AI Workloads」と題した記事を公開した。NVIDIAの次世代AIプラットフォーム「Vera Rubin」が、独立系リサーチ機関SemiAnalysisのベンチマークにおいて、前世代Blackwell比でMW（メガワット）あたりスループット30倍・トークンコスト35分の1という数字を叩き出した。しかもこれは、Vera CPUのツールコーリング性能を含まないチップ単体の計測値であり、7チップ構成の完全プラットフォームとしてのフル性能はまだ反映されていない。
生成AIの推論コストは、エージェント型AIの普及を左右する最大の障壁の一つとして業界で広く認識されている。複数のAIエージェントが連携してタスクをこなす「エージェント型AIワークロード」では、単発の推論と比べてトークン消費量が桁違いに多くなるため、インフラの電力効率とコスト構造が事業採算に直結する。今回の数字は、その文脈で読むとより重みを持つ。
ベンチマーク：SemiAnalysis AgentX とは
今回の計測に使われたのは SemiAnalysis AgentX だ。SemiAnalysisはAIインフラ・半導体領域の独立系リサーチ機関として知られており、ベンダーの公称値とは独立した立場でシステム評価を行っている点が特徴だ。本ベンチマークはエージェント型コーディング推論ワークロードを対象に、Kimi K3、MiniMax M3、GLM5.3、Qwen3.5、DeepSeek V4 Proといった複数のモデルでAIインフラを評価する。評価指標は以下の通り。
| 指標 | 定義 | 見方 |
|---|---|---|
| E2E Normalized Interactivity | リクエスト送信から最終トークン到達までの時間でトークン数を割った、ユーザーあたりの平均出力レート | 高いほど良い |
| Standard Interactivity | 最初のトークンから最後のトークンまでの生成フェーズ中のユーザーあたりのトークンレート | 高いほど良い |
| E2E Latency | リクエスト送信から最終トークン到達までの総経過時間 | 低いほど良い |
| TTFT（Time To First Token） | 送信から最初の出力トークンが届くまでの時間 | 低いほど良い |
比較基準：Blackwellの実績
Vera Rubinの数字を正しく読むために、まず比較基準となるBlackwellの実績を整理する。
GB300 NVL72（Grace Blackwell）は、DeepSeek-v4-PRO 1.6Tにおいて前世代のH200 NVL8（Hopper）比でMWあたりスループット15倍を達成した。コスト面でも100万トークンあたりのコストがHopper比10分の1と、電力・インフラ予算内でより多くのエージェントを稼働できるTCO（総所有コスト）を実現している。
さらにモデルが大規模化するとBlackwellの優位性は顕著になる。Kimi K3 2.8TではHopper比MWあたりスループット80倍を記録し、ユーザーあたりインタラクティビティは215トークン/秒を維持する。
この時点でもすでに際立った数字だが、Vera Rubinはここからさらに跳躍する。
本題：Vera RubinがBlackwellを圧倒する数字
NVIDIA Vera Rubin NVL72 のDeepSeek-v4-PRO 1.6Tにおける結果が核心だ。
- MWあたりスループット：Grace Blackwell NVL72比 30倍
- ユーザーあたりインタラクティビティ：Blackwellのピークは180トークン/秒以下だが、Vera Rubinは最大約280トークン/秒に到達
- 100万トークンあたりコスト：Blackwell比35分の1
コスト削減の背景には、GPU・ラック・ワークロードレベルをまたいで電力を管理する NVIDIA DSX MaxLPS の存在がある。この技術により、同一のメガワット予算内で最大40%多くのGPUをプロビジョニングできる。エージェント型AIは同時並行で大量のリクエストをさばく必要があるため、この「同一予算内で稼働できるGPU数」の増加は、スループット全体に対してそのまま乗数として効いてくる。
今回の数字は「まだ上限ではない」
注意すべき点として、今回のベンチマークはVera CPUのツールコーリング性能を含んでいない。計測対象はVera Rubinチップ単体であり、7チップ構成の「Extreme Codesign」完全プラットフォームのフル性能は反映されていない。
「Extreme Codesign」はNVIDIAが提唱する設計思想で、CPU・GPU・ネットワーク・ソフトウェアスタックを単一プラットフォームとして一体設計することで、個別最適では得られない性能・電力効率を引き出すアプローチを指す。今回の計測はその一部にすぎない。
NVIDIAは現在、Vera CPU、Rubin GPU、Vera Rubinサーバー、NVIDIAのAI推論アクセラレーターであるGroq 3 LPXチップ（※Groqは一般にLPU推論チップで知られる別会社だが、ここで言及されているのはNVIDIA製品のコードネームである）、関連ネットワーク技術を含むAIソリューション全体の量産を開始している。プラットフォームが本格稼働し始めれば、今回示された数字はさらに更新される見込みだ。
