9月17日、The Next Webが「The hardest AI security problems now live in what an agent is permitted to do」と題した記事を公開した。この記事では、OWASPの2026年版LLMリスクTop10において「過剰エージェンシー」が6位から3位に浮上し、AIエージェントのセキュリティ上の最大の問題がモデルの外側に移行しつつあることを詳しく伝えている。
「過剰エージェンシー」が3位に急浮上
OWASP(Open Worldwide Application Security Project)が2026年版「LLMアプリケーション向けTop 10リスク」を公開し、「過剰エージェンシー(Excessive Agency)」が6位から3位に順位を上げた。一方、「不適切な出力処理(Improper Output Handling)」は5位から10位へ後退した。
OWASPのTop 10といえば、Webアプリケーションセキュリティの文脈で長く参照されてきたリストだが、LLM向けの版は急速に普及するAIエージェント開発の指針として実務者に使われている。
今回の2026年版が過去と大きく異なる点は、実際のインシデントデータを初めてランキングに反映させたことだ。収集されたインシデント数は6,639件。これがランキングの4分の1を占め、残る4分の3は専門家コンセンサスによって構成されている。プロジェクトを共同リードしたSteve Wilsonは、セキュリティ企業ExabeamのチーフAIオフィサーでもある。
問題はモデルの外側にある
「過剰エージェンシー」とは、モデルが何を「言うか」ではなく、モデルに何が「渡されているか」の問題だ。エージェントが回答した後に到達できるツール、クレデンシャル、スコープ——それらが過大であることを指す。
Wilsonが示した内部レッドチームの数字が実態をよく表している。最も古いモデルはエージェントのセキュリティテストにおいて17%の確率で失敗し、最新モデルでも2%失敗する(いずれも元記事が引用する社内レッドチーム評価の数字)。そして彼はこう述べる——「1回の失敗でもデータが漏洩するなら、98%の成功率では全く足りない」と。
今年の夏、10日間で4つのチームが4種類の手法でAIエージェントを突破したが、その全てに共通する欠陥はモデル自体ではなく、モデルを取り巻くエコシステムにあった。この傾向は、OWASPのランキング変動とも一致している。
Wilsonが示す処方箋
派手さはないが、Wilsonの提言は具体的だ:
- 読み取り専用ツールを汎用コネクタの代わりに使う
- リクエストはユーザー自身のスコープ付きIDの範囲内に収める
- モデルとダウンストリームのシステムの間にポリシー執行ポイント(PEP)を設ける
- 取り消しが困難なアクションには人間の承認を挟む
これは8月にThe Next Webが報じた問題意識——「エージェントが『できること』と『認可されるべきこと』のギャップ」——とも重なる。
EUのサイバーレジリエンス法(CRA):補足的な規制の動き
エージェンシーのリスクが高まる一方、規制側でも新たな動きがある。ただしここで紹介するCRAの動向は、OWASPが指摘するエージェンシー問題の「解決策」というより、現行規制の限界を示す補足的な文脈として読むべきだ。
9月11日から、EUサイバーレジリエンス法(CRA)に基づく24時間以内の脆弱性報告義務が製造業者に適用された。72時間以内にはENISA(EUサイバーセキュリティ機関)のプラットフォームへの詳細な通知が求められる。違反した場合のペナルティは**最大1,500万ユーロ、または全世界売上高の2.5%**だ。残りの規制は2027年12月11日から適用される。
ただし、ここに大きな「抜け穴」がある。CRAが対象とするのは「デジタル要素を含む製品」であり、法律専門家の解釈によればクラウド経由で提供されるソフトウェアは対象外に置かれる。多くのAIエージェントはクラウド経由で顧客に届くため、実質的に規制の対象から外れる可能性が高い。
The Next Webの取材では、ソフトウェア部品表(SBOM)の取得よりも、その内容を信頼できるかどうかが真のボトルネックであることも判明している。
さらに、EUで確認されているAI関連のインシデント報告は今のところAI法(AI Act)に基づくものに限られており、CRAに基づく報告例はまだ確認されていない。OpenAIがドイツのウィキを占拠したエージェントに関するインシデントレポートを提出したのもAI法に基づくものだった。エージェンシーに関するリスクは、二つの規制の間に落ちている状況だ。
AIエージェントの権限設計は、モデルの精度向上とは別の次元でセキュリティの急所になりつつある。OWASPのランキング変動は、その実態を数字で示した最初の公的な根拠と言える。
詳細はThe hardest AI security problems now live in what an agent is permitted to doを参照していただきたい。