11月9日、GoogleのSVP兼Chief Technologist（AI・インフラ担当）であるAmin Vahdat氏が「Our newest TPUs: 8tx and 8i Max, built for the agentic era」と題した記事を公開した。Googleは今年4月に第8世代TPUとして2システムを発表していたが、今回さらに「TPU 8tx」と「TPU 8i Max」を追加し、1年間に4つのTPUシステムを投入するという同社初の事態となった。TPU 8txは処理中もデータを保護したまま演算できる機密計算チップ、TPU 8i Maxはエージェント向けのメモリ帯域幅を2倍に引き上げるデュアルチップ構成システムだ。

1年で4つのTPUシステム——なぜこれが異例なのか

Googleは今年4月のGoogle Cloud Nextで、第8世代TPUとしてTPU 8t（大規模トレーニング向け）とTPU 8i（リアルタイム推論向け）を発表していた。今回の発表でさらに2システムを追加したことで、1年間に4つのTPUシステムを投入するのは同社初となる。

これが可能になった背景には、Googleがチップ設計の当初から採用してきた「システムとしての設計思想」がある。新チップの開発はシリコン製造サイクルに縛られ数年単位を要するが、既存チップを土台にネットワーク・メモリ・セキュリティ機構の組み合わせを変えた「システム」として構成し直せば、数ヶ月単位で新たなユースケースに対応できる。TPU 8txとTPU 8i Maxはいずれも、既存チップをベースにした「システム」の拡張という位置づけだ。

TPU 8tx：ハードウェアレベルの機密計算

TPU 8txは、セキュアな推論と小規模なファインチューニングに特化したシステムだ。医療・金融・政府機関など規制の厳しい環境でのAI利用を想定して設計されている。

通常、コンピュータがデータを処理する際、メモリ上ではデータが復号された状態になる——ストレージや通信路での暗号化は効いても、処理中は生データが露出するという構造的な課題がある。TPU 8txはこの問題をハードウェア層で解決し、処理中もセンシティブなデータとモデルの重み（weights）を保護・隔離した状態に保つ。ホストCPUには第5世代AMD EPYC（エピック）を採用している。

ネットワーク面では、TPU 8i向けに開発された低レイテンシのBoardflyネットワークを採用しており、TPU 8t比で最大2倍の低レイテンシを実現しながら、パフォーマンスへのペナルティはほぼゼロとされている。

特徴的なのは、トレーニンググレードの演算能力と高速な推論ネットワークを1システムに統合している点だ。これにより、プライベートデータを使ったファインチューニング、大規模モデルの蒸留（distillation）、強化学習（RL）によるエージェントトレーニングを、センシティブなデータをクラスタ間で移動させることなく単一システム上で実行できる。

TPU 8i Max：「メモリの壁」を突破するデュアルチップ構成

TPU 8i Maxが解決しようとしているのは、エージェントAI特有の問題——メモリ帯域幅のボトルネックだ。

複数のAIエージェントが大規模なコードベース全体や数時間分の映像を同時に処理すると、メモリ帯域幅がすぐに詰まる。この問題に対し、TPU 8i MaxはTPU 8iチップを2つ1パッケージに統合するアプローチを取った。

その結果、TPU 8i比でコンピュート2倍・SRAM 2倍・HBM（高帯域幅メモリ）帯域幅2倍を実現しつつ、既存のラックフットプリントに収まる設計になっている。つまり、データセンターは物理スペースや電力消費を増やさずに、ラックあたりの演算密度を大幅に引き上げられる。

第8世代TPUポートフォリオの全体像

4システムを役割で整理すると以下のとおりだ：

開発者向けソフトウェア整備も同時進行

ハードウェア発表と並行して、開発者のオンボーディング障壁を下げるソフトウェア整備も進められている。主な取り組みは以下の4点だ。

まず、TorchTPUのオープンソース化により、PyTorchコードやHugging FaceモデルがTPU上でそのまま動作するようになった。コードの書き直しは不要とされている。なお、元記事ではTorchTPUのリポジトリURLは明記されていないため、公式な対応リポジトリについては元記事の最新情報を確認していただきたい。

次に、vLLM・SGLangなどOSSの推論エンジン向けTPUバックエンドをすぐ使える形で提供する。これに加え、TPU Syncをオープンソース化した。HBM・ホストDRAM・ストレージ・ネットワークを統一メモリ階層として扱い、KVキャッシュの転送レイテンシとTime to First Token（TTFT）を90%以上削減するとしている。

さらに、プレビュー中のTPUエージェントスイートでは、Claude CodeやCursorといったコーディングツールに加え、Google社内の開発支援ツールであるGoogle Antigravity（コード補完・生成を担う開発者向けツールとされている）とも直接統合し、TPUのオンボーディングやカーネルのオートチューニングを自然言語で指示できるようになる。

ベンチマーク面では、エージェント向けコーディングや長文コンテキストを評価するInferenceX・AgentXにおいて、vLLM-TorchTPUスタックで最高水準のコスト対性能比を達成したと主張している。

顧客層については、フロンティアラボ・証券会社・小売・大学など多様なセクターに広がっており、顧客自身のデータセンターにTPUを直接設置して利用するケースも出てきていると元記事では紹介されている。なお、具体的な顧客数については元記事に明記がないため、本記事では数値の引用を省いている。

詳細はOur newest TPUs: 8tx and 8i Max, built for the agentic eraを参照していただきたい。