8月10日、テクノロジー専門メディアpbxscience.comが「AMD Buys Inference Chip Startup Taalas, Betting That Etching AI Models Into Silicon Can Undercut GPUs」と題した記事を公開した。AMDがAIモデルの重みをシリコンに直接焼き込む推論チップスタートアップTaalasを買収したことを報じる内容で、急拡大する推論市場におけるAMDの戦略的位置付けを詳しく解説している。
モデルの重みをチップに「焼く」という発想
AIチップ業界では現在、NvidiaのGPU+HBM(高帯域メモリ)という構成が事実上の標準だ。GPUはトークン生成のたびにHBMからモデルの重み(weights)を読み出し続ける。この読み出しがボトルネックになり、電力と時間を消費する。
Taalasのアプローチはこれを根本から変える。特定モデルのアーキテクチャと重みをチップ製造時に直接焼き込む構造のASIC(Application-Specific Integrated Circuit)設計を採用しており、外部メモリへのアクセスが不要になる。その結果、HBM、アドバンストパッケージング、液冷システムをすべて省略できるとしている。
2023年にTenstorrent元CEOのLjubisa Bajic氏と、AMD・ATI出身エンジニアの妻Lejla Bajic氏が創業したカナダ・トロントのスタートアップで、これまでに約2億1,900万ドルのVC資金を調達している。
デモチップ「HC1」の数字
2026年2月に公開されたデモチップHC1のスペックと報告値は以下のとおりだ。
- 製造プロセス: TSMC N6(6ナノメートル)
- トランジスタ数: 530億
- ダイサイズ: 815 mm²
- 搭載モデル: Meta Llama 3.1 8B(量子化版)をチップ内に完全埋め込み
- 消費電力: 約200〜250ワットであり、空冷での運用が可能でHBMを必要としない
- 推論速度(自社ベンチマーク): ユーザーあたり約16,960トークン/秒
Taalasはこの速度を「Nvidia H200比で約73倍、電力消費は約10分の1」と主張している。ただし、これは同社自身が2026年2月の発表時に特定条件下で計測したベンダーベンチマークであり、独立した第三者による生産規模での検証はまだ行われていない点に注意が必要だ。独立系アナリストは、最適化されたNvidia H200でも同規模の小型モデルではそれに近いスループットを出せること、またトークン速度だけでは実環境での並行リクエスト時のレイテンシや総コストは評価できないと指摘している。
後継チップHC2は約200億パラメータのモデルを対象とする予定だ。
柔軟性との引き換え
この設計の本質的なトレードオフは柔軟性の欠如だ。Taalasチップは特定モデル専用であり、そのモデルのアーキテクチャが大きく変わった場合は新しいチップを製造し直す必要がある。
Taalasは「新モデルを受け取ってからカスタムハードウェアを製造するまで約2ヶ月」としており、コストはそのモデルの学習コストと比べれば大幅に低いと説明している。ただし、Nvidiaの**CUDAエコシステム**のような汎用性とは根本的に異なるアプローチであることは変わらない。
なお、モデルをシリコンに焼き込むアプローチはTaalas固有のものではない。同様のコンセプトを持つスタートアップとしては、光学的なインターコネクト技術でAIチップ間通信を高速化するLightmatterや、LLMのアーキテクチャ全体をASICに固定実装することを目指すEtchedなどが存在しており、推論専用ASIC市場は複数のプレイヤーが競合する状況にある。Taalasの特徴は、既存の汎用GPU(今回の買収でAMDのInstinctシリーズ)と組み合わせたハイブリッド構成を前提としている点にある。
AMDの狙い:GPUの「補完」として
AMDは今回の買収を、既存AIハードウェアの置き換えではなく補完と位置付けている。ラックスケールシステム「Helios」においては、InstinctシリーズのGPUがプロンプト処理などの汎用計算を担い、Taalasのシリコンが「モデルがほぼ変わらず、推論ボリュームが膨大な」ワークロードのトークン生成を担う役割分担を想定している。
AMDのVamsi Boppana氏はこの買収を「ワークロードに最適なチップを選択できるフルスタックAIプラットフォームの構築」の一環と説明した。
アナリストはこの買収を、Nvidiaの支配への即時的な脅威ではなく、急成長する推論市場への足がかりとして評価している。今回の動きはAMDにとって、AIチップ設計会社Groqの動向への対抗という文脈でも読み取れる。ただし、元記事はNvidiaによるGroq買収を報じているが、この情報については事実関係に誤りが含まれている可能性がある。現時点で公開されている情報ではGroqはNvidiaではなく別の投資家から出資を受けているとされており、読者は当該記述の正確性について独自に確認されることを勧める。
買収の財務条件は非公表。取引は規制当局の承認を経て2026年第4四半期に完了する見込みだ。
詳細はAMD Buys Inference Chip Startup Taalas, Betting That Etching AI Models Into Silicon Can Undercut GPUsを参照していただきたい。