11月9日、GoogleのSVP兼Chief Technologist（AI・インフラ担当）であるAmin Vahdat氏が「Our newest TPUs: 8tx and 8i Max, built for the agentic era」と題した記事を公開した。第8世代TPUの新システム「TPU 8tx」と「TPU 8i Max」の詳細が明かされており、エージェント型AI時代の2大課題——機密データの保護とメモリ不足——にそれぞれ正面から取り組む構成となっている。

注目すべきは投入ペースだ。Googleは今年4月のGoogle Cloud Next 2026で「TPU 8t」（大規模訓練向け）と「TPU 8i」（リアルタイム推論向け）を発表したばかり。今回の2種が加わり、同一世代で1年以内に4種のTPUシステムを投入するという、これまでにない展開となった。

1年間で4種のTPUという異例のペース

Googleが今回発表したのは「新チップ」ではなく「新システム」だ。チップ設計は半導体製造の制約上、数年単位のサイクルを要する。一方、システム設計とはチップ周辺のパッケージング、高速メモリ、光ネットワーク、セキュリティ機構の組み合わせ方を指す。Googleは10年以上前から「AIソフトウェアはシリコン製造よりはるかに速く進化する」という前提でTPUをモジュラーな構成要素として設計しており、この柔軟性が数ヶ月単位での新構成投入を可能にしている。

なお、「エージェント型AI」とは、単発の質問に答えるだけでなく、複数のツールや外部サービスを呼び出しながら複雑なタスクを自律的に実行するAIシステムを指す。長いコンテキストを保持しながら何十もの並列推論を行うため、従来の推論ワークロードと比べてメモリ・セキュリティ双方への要求が格段に高い。

TPU 8tx：ハードウェアレベルの機密計算

TPU 8txの最大の特徴は、機密計算（Confidential Computing）をTPUレベルで実現した点だ。通常、データはストレージやネットワーク転送時には暗号化されているが、CPUやアクセラレータが実際に処理する際にはメモリ上でいったん復号される。これがセキュリティ上の弱点となる。TPU 8txはこの問題をハードウェアレイヤーで解決し、処理中であっても機密データとモデルの重みを保護・分離した状態に保つ。

ホストCPUには第5世代AMD EPYC（AMDのサーバー向けCPUシリーズ）を採用。ネットワークはTPU 8iで開発された低レイテンシの「Boardfly」ネットワークを流用しており、TPU 8tと比較して最大2倍の低レイテンシを実現しながら、パフォーマンスへのペナルティはほぼゼロとされている。

さらに、訓練グレードの演算性能と高速な推論ネットワークを1システムに統合したことで、以下を単一クラスタ内で完結できる：

• プライベートデータを使ったファインチューニング
• 大規模モデルから小規模モデルへの蒸留
• 強化学習によるエージェント訓練

Googleは金融機関、医療機関、政府機関といった規制の厳しい業種を主なターゲットとして位置付けている。これらの業種では、モデルの重みや学習データを外部クラウド事業者から秘匿したまま処理できるかどうかが、クラウドAI採用の判断を左右する重要条件となっている。

TPU 8i Max：メモリウォールへの直接回答

TPU 8i Maxが取り組むのは「メモリウォール」問題だ。メモリウォールとは、プロセッサの演算速度に対してメモリ帯域幅の成長が追いつかず、処理全体がメモリアクセスで律速されてしまう現象を指す。複数のAIエージェントが大規模コードベースや長時間の動画を同時に処理する場合、演算性能そのものではなくメモリ帯域幅がすぐにボトルネックになる。

解決策はシンプルかつ大胆だ。TPU 8iチップを2つ1パッケージに統合し、以下をTPU 8i比で単純に倍増させた：

• 演算性能（Compute）：2倍
• SRAM容量：2倍
• HBM（高帯域幅メモリ）帯域幅：2倍

特筆すべきはフォームファクターだ。既存のラックフットプリントに収まる設計のまま、ラック内に搭載できるシリコン量が2倍になる。データセンターの床面積と消費電力あたりの計算密度が大幅に向上し、同じ設備投資でより多くの並列エージェント処理をこなせる計算になる。

ソフトウェア面の整備：PyTorch対応とオープンソース化

ハードウェアの拡充と並行して、開発者の参入障壁を下げるソフトウェア整備も進んでいる。

**TorchTPU**（先月オープンソース化）により、PyTorchのコードとHugging Faceのモデルが書き換えなしでTPU上でネイティブ動作するようになった。vLLMやSGLangといった主要な推論エンジン向けのTPUバックエンドも提供されている。

また、TPU Syncもオープンソース化される。これはTPUクラスタ向けのモデルステートレイヤーで、チップのHBM、ホストDRAM、共有ストレージ、データセンターネットワークを単一のメモリ階層として統合管理する。KVキャッシュ（Transformerが推論時に使う中間状態の保存領域）のオフロードをミリ秒単位で自動化し、Time to First Token（TTFT：最初のトークン生成までの待ち時間）を90%以上削減するとされている。

さらに、GKE（Google Kubernetes Engine）上の**Cloud Pathways**が一般提供（GA）となった。Google DeepMindのGemini開発で使われているランタイムをGoogleクラウド顧客が利用できるようになる。

第8世代TPUポートフォリオの全体像

Googleは現在、フロンティアラボ、トレーディング会社、小売業者、大学を含む約100社の顧客にTPUを提供しており、急成長中のビジネスと位置付けている。NVIDIAが圧倒的シェアを持つAIアクセラレータ市場で、Googleは「チップを売る」のではなく「システムとソフトウェアをセットで提供する垂直統合モデル」でGoogle Cloud顧客の囲い込みを強化する戦略を鮮明にしている。今回の2種の追加は、その戦略の一環として、特定ユースケースへの最適化を加速させるものと読める。

詳細はOur newest TPUs: 8tx and 8i Max, built for the agentic eraを参照していただきたい。