11月13日、AWSが「Inside an enterprise AI agent: A governed, observable loop architecture」と題した記事を公開した。この記事では、エンタープライズ向けAIエージェントを5層の参照アーキテクチャとして設計する方法について詳しく紹介されている。
「チャットボットの延長」ではない
エンタープライズAIエージェントとチャットボットは、根本的に構造が異なる。チャットボットはメッセージに1回応答して終わる。エージェントはゴールに向かって動き続ける。ユーザーの意図を読み取り、タスクを分解し、必要な知識を集め、証拠を評価し、外部ツールを呼び出し、結果を検証してから次のアクションを決める。
この「ループ」が本質だ。単一のLLM呼び出しとの最大の違いは、ツール結果や新たなエラーを受けて何度でも自己修正できる点にある。
AWSのこの記事は、そのループを企業環境で安全・確実に動かすための参照アーキテクチャを提示している。設計原則から各レイヤーに対応するAWSマネージドサービスまで、実装レベルで踏み込んだ内容だ。
5層アーキテクチャの全体像
アーキテクチャは以下の5層で構成される。
- APIゲートウェイ(認証・ポリシー) - 全リクエストの入口
- エージェントランタイム - 5フェーズの認知ループ(後述)
- ナレッジ&ステートティア - エージェントのメモリ
- プラットフォームサービス層 - モデルとツール
- トラスト&コントロールフレームワーク - 全層を横断するガバナンス
設計原則は以下の5つで、いずれもAWS Well-Architected Framework Generative AI Lensに基づく。
| 原則 | 説明 |
|---|---|
| ゼロトラスト | 全リクエストをランタイム到達前に認証・認可する |
| 多層防御 | APIゲートウェイ、ポリシーゲート、ガバナンスで単一障害点を排除 |
| 関心の分離 | 知識とコンピュートを分離。トラストと実行を分離 |
| デフォルト観測可能 | 全ステップがテレメトリを出力。トレーシングは後付けではなく設計上の要件 |
| フェイルセーフなデフォルト | 不確実な場合はユーザーへの確認またはエスカレーションを選ぶ |
なお、本記事では元記事の構成に沿い、Layer 1(APIゲートウェイ)の詳細を後段で取り上げている。Layer 2〜5の各層詳細は元記事に記載があるが、本稿では紙幅の都合上、5フェーズの認知ループ(Layer 2)を中心に紹介する。
核心:5フェーズの認知ループ
記事の最も実用的な部分がここだ。エージェントランタイムは以下の5フェーズを繰り返すループとして設計される。
Phase 1: Understand(意図・コンテキスト・制約の把握)
ユーザー入力から意図(Intent)、コンテキスト(Context)、制約(Constraints)の3つを抽出する。意図はリクエストタイプの分類(情報取得・アクション実行・コンテンツ生成)、コンテキストは会話履歴や権限情報、制約はトークンバジェットや利用可能ツールの範囲だ。AWS上ではAmazon BedrockでAnthropic ClaudeやAmazon Novaが意図分類を担い、Amazon Bedrock Guardrailsがモデルに届く前に入力をフィルタリングする。
Phase 2: Plan(タスク分解・ツール選択・成功基準の定義)
意図が明確になったら、ゴールをサブタスクのDAG(有向非巡回グラフ)に分解し、各サブタスクにツールをマッピングする。重要な点として、プランから直接ツールは実行されない。全ツール呼び出しは必ずツールゲートウェイとポリシー強制レイヤーを通過し、権限・パラメータ・予算を確認してから実行される。また、Reasonフェーズでサブタスクの失敗が検出された場合、Planに戻って再計画する。
Phase 3: Retrieve(知識の取得)
プランに必要な知識を取得するフェーズ。セマンティック検索(ベクトルDBへのクエリ)、構造化検索(SQLやAPIコール)、ハイブリッド検索(両者の組み合わせ)の3種類がある。ここで重要なのは取得した結果の関連性スコアリングとソース引用の記録で、後の監査トレースに使われる。
Phase 4: Reason(推論・評価・信頼度スコアリング)
取得した情報を使って推論し、Phase 2で定義した成功基準に照らして評価する。信頼度スコアが閾値を下回れば人間にエスカレーションする設計になっている。このフェーズはReAct(Reasoning+Actingを交互に行うプロンプティング手法)やReflexion(モデルが自分の前回の試みを批評し、次のパスに活かす手法)といった先行研究の知見を取り込んでいる。
Phase 5: Act and Observe(実行と観測)
ツールを呼び出して結果を観測する。実行後、成功・部分成功・失敗のいずれかに応じてループを継続するかどうかを判断する。全ツール呼び出しの結果はトレースに記録される。
Layer 1:APIゲートウェイとIDポリシー
エージェントランタイムの手前で機能する層。TLS終端、OAuth 2.0 / OIDCトークン検証、RBAC(ロールベースアクセス制御)、トークン使用量クォータを担う。
| コンポーネント | 責務 | AWSサービス |
|---|---|---|
| APIゲートウェイ | TLS終端、ルーティング、WebSocketストリーミング、レート制限 | Amazon API Gateway、ALB |
| ID・認証 | トークン検証、ユーザーコンテキスト注入 | Amazon Cognito、AWS IAM |
| ポリシー | RBAC、ツール権限、データスコーピング | IAMポリシー、AWS Organizations |
ユーザーのID・ロール・権限はセッションコンテキストとしてループの全フェーズを通じて伝搬する。各ツール呼び出しや検索が呼び出し元の権限の範囲内に収まることを保証する仕組みだ。
コスト設計も組み込む
記事が強調するもう一つのポイントがコストだ。元記事では「多くの企業でトークン消費が生産性向上を上回るペースで増大している」と明記されており、このアーキテクチャはインファレンスを価値のある箇所に絞って使う設計になっている。ポリシーレイヤーでのトークンバジェット管理と、各フェーズのトレースによるコスト可視化がその実装手段だ。
設計上の注意点
記事ではアンチパターンにも言及している。ガバナンスやトレーシングを後付けで追加しようとするチームが陥りがちな問題として、各フェーズにトレースと制御が組み込まれていないと、後から監査ログを整備しようとしても実行パスを再現できない点を挙げている。「Observable by default(デフォルトで観測可能)」が設計原則として最初から入っている理由はここにある。
詳細はInside an enterprise AI agent: A governed, observable loop architectureを参照していただきたい。