7月24日、AMDが「AMD and Cerebras Announce Industry-Leading Ultra-Low-Latency and High Throughput AI Inference Solution」と題したプレスリリースを公開した。AMDとCerebras Systemsが超低遅延・高スループットAI推論ソリューションの共同開発を発表したものだ。
NvidiaへのオルタナティブとしてAMD×Cerebrasが組む
AI推論インフラ市場でNvidiaが圧倒的なシェアを持つ中、AMDとCerebras Systemsは2026年7月23日（現地時間）、「Advancing AI 2026」カンファレンスで技術提携を発表した。両社の狙いは、単純なGPUクラスタでは対応しにくくなってきた超低遅延かつ高スループットという二律背反の要求を、アーキテクチャレベルで解決することにある。
「分離型推論（Disaggregated Inference）」という構成
今回の発表の核心は、AMD Helios™とCerebras Wafer-Scale Engine（WSE）を1つの推論ワークフローとして連携させる「分離型推論」アーキテクチャだ。
AMD Helios™は、AMDが今回のカンファレンスで新たに発表したラックスケールのAI推論プラットフォームである。従来のGPUボード単体の枠を超え、ラック全体をひとつの推論エンジンとして設計した製品カテゴリに位置づけられる。
AI推論は大きく2つのフェーズに分かれる：
- Prefill（プレフィル）フェーズ：入力プロンプトや大規模コンテキストを処理する。計算集約的でスループットが重要。
- Decode（デコード）フェーズ：トークンを1つずつ生成する。メモリ帯域幅集約的で、レイテンシが直接ユーザー体験に影響する。
従来の構成ではこの2フェーズを同一ハードウェアで処理するが、両社のアプローチはフェーズごとに最適なチップを充てるという分業体制を採る。
- AMD Helios：ラックスケールの高スループットエンジンとして、プロンプト処理と大規模コンテキストウィンドウを担当。
- Cerebras Wafer-Scale Engine：ウェーハ1枚まるごとがチップになるという特異なアーキテクチャ（参考：Cerebras WSE-3）を持ち、デコードフェーズの超低遅延トークン生成を担当。
両社は、この組み合わせによりワット当たりのトークン生成速度が最大5倍（T/s/W）に達すると見込んでいる。プレスリリース上では比較対象の明示はないが、文脈からは同等クラスのGPUクラスタ構成との対比とみられる。比較条件の詳細は現時点で開示されていない。
なぜ今、分離型推論が求められるのか
AI推論ワークロードの要件は一枚岩ではなくなってきた。大量バッチ処理のようにスループット優先のものもあれば、コーディング支援・リアルタイムコパイロット・自律エージェントのようにレイテンシ優先のものもある。この「ワークロードの多様化」が、汎用GPU一択という構成への疑問符につながっている。
AMD CEOのLisa Su博士は次のように述べた（以下、編集部による意訳）。
「AIインフェレンスはAIにおける最大のインフラ機会の一つになりつつある。その多様性の拡大は、より柔軟なアプローチを必要としている。」
Cerebras CEOのAndrew Feldmanは次のように語った（以下、編集部による意訳）。
「超高速推論への需要は前例のないペースで拡大している。AMDとの提携は、そのパフォーマンスをより多くの顧客に届ける機会だ。」
提供時期と展開計画
CerebrasはAMD Heliosシステムを自社データセンターに導入する計画で、2026年下半期にCerebras Cloud経由で提供開始する予定だ。オンプレミスでの展開時期については現時点では明示されていない。
エンジニア視点での評価ポイント
分離型推論はアーキテクチャ上の理屈は明快だが、実運用では複数の異種チップ間のネットワーク連携やスケジューリング、レイテンシのボトルネック管理が課題になる。公式発表では「シングル統合ワークフロー」と説明されているものの、具体的なソフトウェアスタックや接続プロトコルの詳細は現時点では開示されていない。
とりわけ気になる点は、PrefillとDecodeの間でKVキャッシュをどのように受け渡すかだ。異種チップ間でKVキャッシュを転送する場合、その帯域幅とレイテンシがシステム全体のボトルネックになりやすい。AMDのROCmスタックとCerebrasの独自ソフトウェアスタックをどのレイヤーで統合するのか、またオーケストレーション層にvLLMやTriton Inference Serverのような既存OSS推論サーバーが使えるのかといった点も、エンジニアが実導入を検討するうえでは重要な情報となる。2026年下半期の提供開始に向けて、実測ベンチマークとともにこれらの詳細が公開されることが待たれる。
詳細はAMD and Cerebras Announce Industry-Leading Ultra-Low-Latency and High Throughput AI Inference Solutionを参照していただきたい。
