11月9日、madrobot.blogが「Google unveils two more AI chip systems, making four this year as it takes on Nvidia」と題した記事を公開した。この記事では、GoogleがTPU 8txとTPU 8i Maxの2システムを新たに発表し、今年投入したTPUシステムが計4種類となったことについて詳しく紹介されている。

Googleが11月9日、カスタムAIチップシステムの新ラインナップとしてTPU 8txとTPU 8i Maxを発表した。同社のAI・インフラ担当チーフテクノロジストであるAmin Vahdat氏は、「1年間に4つのTPUシステムを投入するのは初めて」と述べている。

TPU（Tensor Processing Unit）はGoogleが開発したAI専用チップで、NvidiaのGPUに対抗する独自アーキテクチャだ。GeminiモデルのトレーニングおよびサービングはTPU上で動いており、Google Cloud経由での貸し出しや、一部顧客への自社データセンター設置も行っている。現在の顧客数は約100社に達し、フロンティアAIラボから証券会社、小売業者、大学まで幅広い。

新チップではなく「新システム」という設計思想

今回の2製品は、4月のGoogle Cloud Nextで発表済みの第8世代TPUチップ（トレーニング向け8t、推論向け8i）をそのまま流用している。Vahdat氏はチップ設計を「物理法則に縛られた数年がかりのプロセス」と定義した上で、パッケージング・メモリ・ネットワーク・セキュリティを組み合わせたシステム設計こそが差別化の軸だと説明する。モジュラー設計により「数年ではなく数ヶ月でスペシャライズドスーパーコンピュータを届けられる」というのが同社の主張だ。

TPU 8tx：機密データを復号せずにAIを動かす

TPU 8txの最大の特徴はコンフィデンシャルコンピューティングへの対応だ。通常、データは保存・転送時には暗号化されるが、CPUやアクセラレータが処理する際にはメモリ上で復号される。これが金融機関や政府機関にとってのリスクとなる。

8txはAMDプロセッサをホストとして組み合わせ、ハードウェアレベルでデータとモデルウェイトを「使用中も保護・隔離された状態に保つ」設計になっている。8iのBoardflyネットワークを転用することで、8tと比べて最大2倍の低レイテンシを実現しながら「パフォーマンスへの影響はほぼゼロ」としている。

この設計により、1つのシステム上でモデルのサービングとファインチューニング、大規模モデルの蒸留、強化学習によるエージェント訓練を、機密データをクラスタ間で移動させることなく実行できる。規制産業が抱える「データを外に出せないが、AIは使いたい」という要求に正面から応えるシステムだ。

TPU 8i Max：1パッケージに2チップを載せてメモリ壁を崩す

TPU 8i Maxが狙うのは「メモリウォール」と呼ばれるボトルネックだ。数十のAIエージェントがコードベース全体や数時間分の動画を同時に処理するような用途では、メモリ帯域幅が性能の上限になる。

Googleの解決策はシンプルで、8iチップを1パッケージに2基搭載してコンピュート・オンチップSRAM・HBMメモリ帯域幅を単純に倍増させた。TechTargetによれば、SRAMは768MB、HBM帯域幅は17.2TB/sとなる。同一ラックスペースに2倍のシリコンが収まるため、「1平方フートあたり・1ワットあたりのコンピュート密度が大幅に向上する」とGoogleは述べており、100万トークンのコンテキストウィンドウを扱うワークロードへの適用を想定している。

なお、両システムの価格・提供時期はいずれも未公表であり、公開されているパフォーマンス数値はGoogleの自己評価によるものでサードパーティの独立ベンチマークではない。

Nvidiaの"CUDA習慣"に切り込むソフトウェア戦略

ハードウェアだけでは開発者をNvidiaから引き離せない。AIコードの大半はNvidiaの**CUDA**向けに書かれており、エコシステムの慣性は強固だ。

先月、GoogleとMetaは共同でTorchTPUをオープンソース化した。これはNvidiaチップ向けに書かれたPyTorchコードをTPU上でネイティブ動作させることを目的としたライブラリで、既存のCUDAコードからTPUへの移植コストを大幅に下げることを狙っている（関連記事）。ただし、すべてのCUDAコードが無修正のまま動作することを保証するものではなく、移行にあたっては一定の確認・調整作業が必要になる場合がある点は留意が必要だ。

今回の発表ではさらに、Claude Code・Cursor・Google Antigravityといったコーディングツールと連携してワークロードをTPUに移行・チューニングするオープンソースのTPUエージェントスイート（プレビュー）と、モデルの初回出力遅延を90%以上削減するというTPU Syncが追加された。なお、この90%以上という数値もGoogleの自己評価によるものであり、前述の各性能数値と同様にサードパーティの独立検証を経たものではない。

Google CloudのAI・コンピューティングインフラ担当を率いるMark Lohmeyer氏はプレスブリーフィングで「チップだけに集中してもそのインフラは最適化できない」と述べている。アナリストのPatrick Moorhead氏（Moor Insights & Strategy）はTechTargetに対し次のようにコメントした。

AIコンピュートの約3分の2が今や推論に使われている。推論ハードウェアに特化するのは正しい判断だ。

まとめ

Googleは今年、第8世代シリコンを軸に機密AI向け・コンテキスト長特化・トレーニング・推論と用途を絞った4システムを数ヶ月単位で投入した。ハードウェアと並行してオープンソースのソフトウェアツールを整備し、CUDAに慣れた開発者の移行コストを下げる戦略を取っている。大手AIインフラ調達者にとって、Nvidiaとの価格交渉における選択肢が実質的に増えたことになる。

詳細はGoogle unveils two more AI chip systems, making four this year as it takes on Nvidiaを参照していただきたい。