AIエージェントが別のエージェントに仕事を丸投げするたびに権限が膨らむ問題 — AWSが3層ポリシーモデルで抑える手法を公開
DRANK

7月7日、AWSが「Enforce least-privilege authorization in multi-agent AI chains using Cedar」と題した記事を公開した。マルチエージェントAIシステムでは、エージェントがタスクを別のエージェントに委譲するたびに認可スコープが暗黙的に拡大するリスクがある。OWASPはこのリスクをASI03: Identity & Privilege Abuseとして分類しており、RBACポリシーが存在していてもチェーンの末端エージェントが元のユーザーの意図を超えた操作を実行できてしまうという問題は、MCPの普及によってエージェント連携が一般化するにつれて深刻度を増している。この問題に対してAWSは、Cedar(オープンソースの認可ポリシー言語)とAmazon Verified Permissionsを組み合わせた3層ポリシーモデルという具体的な回答を示した。

by @tf_official
Related Topics: Amazon Web Services AI Authentication / Authorization