7月16日、InfoWorldが「New agentic compute patterns」と題した記事を公開した。この記事では、AIエージェントのワークロードが従来のKubernetesを中心としたコンピュートインフラとなぜ根本的に相性が悪いのか、そしてエージェント実行に何が本当に必要なのかについて詳しく論じられている。
「リクエスト処理」ではなく「プロセス実行」という別物
従来のWebアプリやバッチ処理は、短命でステートレスなワークロードを前提に設計されてきた。Kubernetesのスケジューリングモデルも基本的にこの思想に基づいている。
しかしAIエージェントは異なる。エージェントは長時間動作し、ステートを持ち続けるプロセスだ。過去の5ステップ前に何が起きたかを参照しながら意思決定し、外部ツールを呼び出し、サブプロセスを起動し、コードを書いて実行する。1つのエージェントワークフローが数分から数時間にわたって走り、12個もの外部システムに接触しながら、後続ステップが依存する中間出力を生成するケースは珍しくない。
この根本的なミスマッチをKubernetesコミュニティ自身も認めている。記事によれば、Kubernetes SIG AppsはAgent Sandboxという新しい抽象化レイヤーの導入を提案した。これはCRD(Custom Resource Definition)ベースの設計で、シングルトンかつステートフルなエージェントワークロードを専用に扱うことを意図している。
※編集部の考察:記事が強調するのはここだ。Kubernetesのメンテナーたちが「既存リソースを組み合わせて使え」と言わずに、専用のプリミティブを新設したという事実そのものが、エージェント実行が旧来のモデルに合わないことの最も明確なシグナルである、と言える。
エージェント実行インフラに求められる4つの要件
記事の重心はここにある。エージェントワークロードが既存インフラと相性が悪い「理由」を踏まえたうえで、エージェント向けコンピュートレイヤーに具体的に何が必要かを4点に整理している。
1. ミリ秒単位で起動する分離実行環境
エージェントがツール呼び出しやコード実行を行う際、各タスクは専用のサンドボックスを必要とする。ここで重要なのはプロビジョニング時間だ。記事は「2秒の環境と2分の環境の差はパフォーマンスの話ではなく、アーキテクチャが成立するかどうかの話だ」と明言している。推論ループをブロックしない速度でサンドボックスが立ち上がることが前提条件になる。
2. タスクライフサイクル全体にわたる永続的なステート管理
エージェントが途中で停止したり、別のエージェントに処理を引き渡したり、再開したりする際に、ゼロから再初期化してトークンを消費しながらコンテキストを再構築するようでは話にならない。すでに構築済みのコンテキストをそのまま引き継げる耐久性のあるステート管理が必要になる。
3. マルチエージェント協調のためのプリミティブ
本番環境のエージェントシステムは単一エージェントであることはほぼない。特化したエージェントのパイプラインとして構成され、エージェント間のハンドオフが信頼性高く、かつ検査可能である必要がある。サブエージェントの起動、構造化された出力の受け渡し、並行プロセスのグラフをまたいだタスク依存関係の追跡が求められる。
4. 実行コンテキストに付随するクレデンシャル管理
エージェントが外部サービスに安全に認証できるよう、シークレット情報は実行コンテキストとともに移動しなければならない。タスク定義、ログ、共有コンテナの環境変数にクレデンシャルが露出するような構成は許容されない。
なぜ今これが問題になっているか
LLMベースのエージェントフレームワークがプロダクション投入され始めたことで、「推論はできるが実行インフラが追いつかない」という問題が顕在化してきた。記事の文脈ではLangGraph(LangChainが開発するグラフベースのエージェントオーケストレーションフレームワーク)、AutoGen(Microsoftが開発するマルチエージェント会話フレームワーク)、OpenAI Agents SDK(OpenAIが提供するエージェント構築用Python SDK)といったフレームワークが例として挙げられている。これらはいずれもLLMを中心に複数のエージェントやツール呼び出しを組み合わせてタスクを実行するアーキテクチャを採るが、その実行基盤側の整備が追いついていないというのが記事の問題意識だ。
エージェント向けインフラ設計を検討しているチームにとって、記事が示す4要件は設計チェックリストとして機能する。特に「ステート管理」と「環境起動速度」は既存のKubernetesジョブ設計では後回しにされがちな部分で、エージェントワークロードではここが律速になる点は頭に入れておくべきだ。
詳細はNew agentic compute patternsを参照していただきたい。