9月11日、InsideAIが「D-Matrix to Use Nvidia NVLink Fusion in AI Inference Servers」と題した記事を公開した。スタートアップD-MatrixがNvidiaのNVLink Fusion技術を使って推論チップをNvidiaサーバーラック内に直接統合する計画について詳しく紹介されている。

Nvidiaのエコシステムにサードパーティチップが入る意味

従来、NvidiaのNVLink（高帯域幅インターコネクト技術）はNvidia自社GPU専用だった。それが今回、スタートアップD-MatrixのAI推論チップ「Raptor」に開放される。

これが今回の発表の核心だ。D-Matrixは推論専用チップをNvidiaのデータセンターラック内に物理的に組み込む形で提供する。別システムを並置するのではなく、Nvidia互換ラックの中にRaptorが入る。商用出荷は2027年を予定し、Raptorの最終設計は今年中に完了する見込みだ。

Nvidiaにとっての合理性は明快だ。推論ワークロードが自社エコシステムの外に流出するよりも、ラック内に取り込んだ方がいい。D-Matrixにとっては、Nvidiaのインストールベースとソフトウェアエコシステムへの互換性を確保できる。

なぜ「推論専用チップ」なのか

AIの計算コスト構造は変わりつつある。大規模言語モデル（LLM）の学習には膨大な計算量とメモリ帯域が必要だが、学習済みモデルを実際に動かす「推論（Inference）」では、クエリあたりの電力効率とトークン生成速度が競争軸になる。

D-Matrixの主張は、推論がAI事業者にとって最大のコスト項目になるというものだ。モデルが本番稼働段階に達すると、推論コストが学習コストを上回るケースは業界でも広く観測されている。NvidiaのトレーニングGPU（H100/Blackwellなど）は強力だが、コスト構造の面で推論に最適化されているわけではない。

D-Matrixが想定するユースケースは、コーディングアシスタント、チャットボット、音声エージェントといったサブ秒応答が求められるサービスだ。こうした用途では、レイテンシの最適化がシリコンレベルから求められる。

競合との違い：「物理的統合」が差別化点

推論チップ市場にはD-Matrix以外にもGroq、Cerebras、SambaNova、さらにAMD・Intelの推論向けアクセラレータが存在する。だが今回の発表で差別化されるのは「Nvidiaラックへの物理的統合」という点だ。

接続面では、PCIe・CXL・Ethernetを専門とする**Astera Labs**と組んでカスタムデータフロー設計を行う。異種シリコンを同一ラック内に混在させた場合のボトルネックを解消することが狙いだ。

元記事によれば、今回の統合はNvidiaが自社の推論ロードマップを後退させることを意味しない。NvidiaのBlackwellおよび将来アーキテクチャは引き続きデータセンター戦略の中心であり、D-Matrix統合はあくまで「追加」であって「代替」ではないと報じられている。

資金調達とバックグラウンド

元記事によれば、D-MatrixはMicrosoftが出資しており、直近の資金調達により評価額は20億ドルに達した。Microsoftが継続的に支援していることは、AzureやCopilotサービスにおける将来的な展開可能性を示唆しているとも読める。

現時点での不確定要素と今後の注目点

現時点ではRaptorの公開ベンチマークは存在しない。Nvidiaの推論GPUや競合カスタムシリコンとの比較データは開示されておらず、コスト優位性やレイテンシ改善の実態は不明だ。価格についても未開示のままだ。

2027年という出荷タイムラインは競合に対応の時間を与える。推論市場の進化スピードを考えると、Raptorが市場に出る頃の競合状況は今と大きく異なっている可能性がある。一方で、Nvidiaのインターコネクト規格への公式な統合という事実そのものは、D-Matrixの製品訴求において強力な後ろ盾になりうる。NVLink Fusionを足がかりにどこまで顧客基盤を広げられるかが、2027年に向けた最大の焦点となるだろう。

詳細はD-Matrix to Use Nvidia NVLink Fusion in AI Inference Serversを参照していただきたい。