11月10日、Analytics India Magazineが「Google Launches Two New TPUs for Enterprise Agentic AI Work」と題した記事を公開した。Googleが第8世代TPU（Tensor Processing Unit）ラインナップに2つの新モデルを追加したという内容だ。注目点は2つ——処理中のメモリ内データも暗号化したまま演算できる「Confidential Computing（機密コンピューティング）」対応のTPU 8txと、100万トークンのコンテキストウィンドウを捌くことを明示したTPU 8i Maxである。いずれもエンタープライズ向けAgentic AI（自律型AIエージェント）ワークロードを主な対象としており、ハードウェアとソフトウェアの両面で整備が進んでいる。
NvidiaやAWS Trainium2との競合が激化するAIチップ市場でTPUが本格化
Googleは第8世代TPUラインナップにTPU 8txとTPU 8i Maxの2モデルを追加した。既存のTPU 8t（大規模モデルトレーニング向け）とTPU 8i（低レイテンシ推論向け）に加え、エンタープライズ用途をより細かくカバーする構成だ。
AIアクセラレータ市場ではNvidiaのH100/H200シリーズが広く普及しており、AWSもTrainium2を展開してクラウド独自チップの競争が激しくなっている。Googleは自社TPUを、AIワークロードの特性に最適化した選択肢として位置づけており、今回の発表はその戦略をエンタープライズ領域へと本格的に拡張するものといえる。
Googleは発表ブログで「コンピューティングが人間スケールからエージェントスケールへ移行するにつれ、企業はAIモデルの巨大なコンテキストウィンドウ全体で推論できるアクセラレータを求めている」と述べている。
TPU 8tx：機密データを復号せずに処理する
今回の2モデルで特に注目したいのがTPU 8txだ。ターゲットは規制業種の企業や政府機関。
通常、ストレージやネットワーク転送時のデータは暗号化されているが、メモリ上での処理時には復号が必要になる——これがセキュリティ上の空白地帯だ。TPU 8txはこのギャップを、ハードウェアレベルのConfidential Computing（機密コンピューティング：処理中のメモリ内データも暗号化したまま演算できる技術）で埋める設計になっている。モデルウェイトを含むデータを処理中も保護できる点が、金融・医療・公共など機密性の高いデータを扱う業種にとっての訴求点となる。
性能面ではTPU 8tと比較して最大2倍の低レイテンシを実現しつつ、パフォーマンスへのペナルティはほぼゼロとされている。内部チップはTPU 8tと同一シリコンで、ホストCPUには第5世代AMD EPYCを採用する。
具体的なユースケースとしてGoogleが挙げているのは以下だ：
- プライベートデータセットを使ったモデルのファインチューニング
- 大規模モデルから小規模モデルへの知識蒸留
- 機密データを別クラスタに移動させずに強化学習でAIエージェントをトレーニング
TPU 8i Max：巨大コンテキストを捌くための「2枚重ね」
TPU 8i Maxは、TPU 8iチップを1パッケージに2枚統合したモデルだ。構成はシンプルで、TPU 8i比で以下がすべて2倍になっている：
- 演算性能
- SRAM（Static RAM）容量
- HBM（High Bandwidth Memory）帯域幅
対象ワークロードは、複数のAIエージェントが大規模なソフトウェアコードベースを横断処理したり、長時間動画を処理したりするシナリオだ。100万トークンのコンテキストウィンドウを含むワークロードへの対応を明示している。既存のラックスペースに収まる設計で、単位面積・単位電力あたりの処理能力を高めている。
ソフトウェア面の整備も同時進行
ハードウェア発表と合わせて、開発者向けのソフトウェアアップデートも複数公開された。
TorchTPU（先月オープンソース化）はPyTorchコードやHugging FaceモデルをコードリライトなしでTPU上でネイティブ動作させるライブラリだ。既存のPyTorchベースの開発フローをそのままTPUへ移行できる点で、導入コストを下げる狙いがある。
TPUエージェントスイート（プレビュー中）はClaude Code、Cursor、Google Antigravity（GoogleのAI開発支援サービス）といったコーディングツールと統合し、TPUのオンボーディング自動化・ボトルネック特定・カスタムカーネル最適化を自然言語で実行できる。TPU特有のチューニング作業を、専門知識なしに進められることを目指した機能群だ。
XLA Serving EngineはPythonでトレーニングしたモデルをC++ランタイム経由でTPU・GPU・CPU上にサーブする仕組みで、オープンソースとして公開された。トレーニング環境と本番サービング環境のギャップを埋めるレイヤーとして機能する。
Agent Compute EngineはエージェントがDBクエリや外部ツール、人間のフィードバック待ちでアイドル状態になる際にセッションを自動的にサスペンド・再開することでインフラコストを削減する。Agentic AIワークロードではアイドル時間が長くなりやすく、このコスト最適化は実運用上の課題に直接対応するものだ。
TPU Syncはチップメモリ・ホストメモリ・共有ストレージ・DCネットワーキングを統合メモリ階層として扱うモデルステートレイヤーで、KVキャッシュ転送レイテンシとTime to First Token（最初のトークンが出力されるまでの時間）を90%以上削減できるとされる。
顧客基盤と今後の展開
GoogleはTPUビジネスの顧客数が現在約100社に達したと明らかにした。AI研究機関、トレーディング会社、小売業者、大学などが含まれる。また、顧客のデータセンターへの直接TPU展開についても検討中としている。
詳細はGoogle Launches Two New TPUs for Enterprise Agentic AI Workを参照していただきたい。
