11月18日、Olivepowerが「Running Untrusted AI Agents on GKE Agent Substrate: Sub-Second, Zero-Idle, and Sandboxed」と題した記事を公開した。GKEの上に構築されたAgent Substrateを使い、信頼できないAIエージェントをサブ秒・ゼロアイドル・サンドボックス環境で安全に実行する手法を解説している。ソースコードはGitHubリポジトリopowbow/gke_substrate_stocksで公開されている(リポジトリ名は著者のGitHubアカウント名に由来する)。
AIエージェントがコードをその場で生成・実行する時代において、従来のKubernetesの前提が崩れつつある。Googleはその問題に対して、GKEの上に新たなプリミティブ群を積み上げることで対応した。
なぜ通常のPodではAIエージェントに不十分なのか
従来のマイクロサービスは、コードレビュー・CI/CD・CVEスキャン・Binary Authorizationを経て検証済みのコンテナとして動作する。ホストカーネルをLinux cgroupsとnamespaceで共有しても問題が起きないのは、実行されるコードが事前に検証されているからだ。
AIエージェントではこの前提が崩れる。エージェントがその場でPythonスクリプトを書き、Bashコマンドを実行し、ツールを呼び出すとき、CI/CDパイプラインを一切通っていない任意コードが実行される。加えて、LLM推論の待ち時間による長い「アイドル期間」と、インタラクティブなループに必要な「サブ秒の即時起動」という相反する要件が重なる。
Googleが特定したリスクは3つだ。
- 信頼できないコード:ホストカーネルを共有するリスク
- 速度:Podスケジューリングのボトルネック(通常は数秒かかる)
- コストのかかるアイドル:セッションの状態(メモリ・ファイルシステム)を保持したまま何時間もアイドルするエージェント
3つのリスクに対するGKEの回答
リスク1:カーネル分離(gVisor / MicroVM)
GKE Sandbox(gVisor)はシステムコールをユーザー空間でインターセプトし、ホストカーネルへの到達を防ぐ。軽量で高密度な汎用タスクに向いている。GKE MicroVMはPodごとに専用OSカーネルを持つハードウェアVM境界を設け、最大限の分離とツール互換性を実現する。詳細はGKEのサンドボックス技術に関する公式ドキュメントを参照されたい。
リスク2:サブ秒起動(Agent Sandbox Warm Pool)
Agent SandboxはSandboxWarmPoolとSandboxClaimという宣言的モデルを提供する。事前に暖機済みのサンドボックスプールを用意しておくことで、ネットワーク隔離済みのサンドボックスを1秒未満でエージェントに払い出す。なお、Agent Sandboxを含む本記事で紹介する機能群(atespace・ActorTemplate・kubectl ateプラグインを含むAgent Substrate)は、執筆時点でプレビュー段階の機能である。本番利用やSLAの扱いについてはGKEのリリースステージに関する公式ページで最新状況を確認されたい。
リスク3:アイドルコスト(Agent Substrate)
ここが本記事の核心だ。**Agent Substrate**は、エージェントを通常のDeploymentではなく「Actor」という論理単位として動作させる。
仕組みは以下のとおりだ:
- アクティブなエージェントセッションは、共有のWarm Worker Pod群に動的に割り当てられる
- エージェントがアイドルになると、RAM全体とファイルシステムのスナップショットをCloud Storageに保存し、Worker Podを解放する
- 次のリクエストが来ると、スナップショットからWarm Worker上に状態を復元する。この復元が500ms以下
1,000セッション分のアイドルPodを常時稼働させてクラスターのIP空間を圧迫する必要がなく、かつエージェントの作業メモリを失わずに済む。
デモ構成:株価分析エージェントの並列比較
記事では、Google ADKとFastAPIで構築した「株価分析エージェント」を通常のGKE PodとAgent Substrate上に並べてデプロイし、3つのリスクを実測している。
エージェントはトレーダーが分析を依頼した銘柄をインメモリのウォッチリストに追加し続ける(外部DBなし)。セッション状態は完全にプロセスRAMに保持される。Agent Substrateのスナップショット機構が「外部ストレージなしでセッション状態を維持できるか」を検証する構成として意図的に選ばれている。
# agent/main.py -- 純粋なインメモリセッション状態
PORTFOLIO_STATE = {
"resident_secret": None,
"boot_pod_ip": get_current_ip(),
"last_pod_ip": None,
"tickers_analyzed": [],
"turn_count": 0,
}
実施した3つのテスト
- 速度テスト:コールドな通常GKE PodとAgent SubstrateのWarm Worker Podの起動時間比較
- アイドルテスト:プロンプト間でセッションがアイドルになったときの挙動(スナップショット→別Worker上で復元)。
tickers_analyzedリストやturn_countなどのインメモリ状態が復元後も保持されているかを確認する - 分離テスト:エージェントがその場でカスタムPython式を実行し、かつホストカーネルへの探索を試みたときにgVisorが阻止できるか
デプロイのポイント
Agent Substrateのリソース(atespace・ActorTemplate)は標準のkubectlではなく、**kubectl ateプラグインを通じて管理する。atespaceはAgent Substrateにおける名前空間に相当する論理スコープ、ActorTemplateはActorの雛形となるテンプレートリソースだ。ActorTemplateを登録すると、SubstrateはコンテナイメージをWarm Worker上で一度起動・確認し、フルメモリスナップショットをCloud Storageに「ゴールデンスナップショット」として保存**する。以降はこのスナップショットから各Actorをサブ秒で展開する。
# ActorTemplateの登録(ゴールデンRAMスナップショットの作成)
kubectl ate create atespace trading-desk
kubectl ate create actor-template -f manifests/substrate-actor-template.yaml
# trader-alice Actorの作成とサスペンド
kubectl ate create actor trader-alice -a trading-desk --template stock-analyst
kubectl ate suspend actor trader-alice -a trading-desk
インストールはcurlで実行するスクリプト一本で完結する設計だが、SPIFFEIDの設定(mTLS認証のためのワークロードID)など、Kubernetesの認証周りの知識は前提として必要になる。SPIFFEはCloud Native Computing Foundation(CNCF)配下のワークロードID標準であり、Workload Identity Federationと組み合わせて使われることが多い。
なお、前述のとおりAgent Substrateはプレビュー段階の機能であるため、kubectl ateプラグインのインタフェースやatespace・ActorTemplateのAPIは今後変更される可能性がある。実際に試す前にAgent Substrateの公式ブログでGAステータスを確認することを推奨する。
詳細はRunning Untrusted AI Agents on GKE Agent Substrate: Sub-Second, Zero-Idle, and Sandboxedを参照していただきたい。