10月16日、Liz Hughesが「Enterprise controls can't keep up with AI agents」と題した記事を公開した。企業がAIエージェントに権限を与えるスピードがガバナンス整備を上回っており、管理体制が追いついていない実態について詳しく紹介している。

「どのエージェントが動いているか」すら把握できていない

AIエージェントの導入が実験段階を超え、企業の基幹システム上で実際にアクションを起こす段階へと移行している。それに伴い、見えてきたのが制御側の空白だ。

セキュリティリーダーたちがComputer Weeklyに語ったところによれば、多くの企業が自社内で稼働するAIエージェントの数を正確に把握できていない。エージェントが単に情報を提供するだけでなく、社内データやアプリケーションへのアクセスを持ちながら実際のアクションを取るようになると、この「棚卸し」はさらに困難になる。

IBMの調査も同様の問題を指摘している。エージェントが質問への回答から意思決定・行動へとシフトするなかで、ガバナンスと説明責任の整備がエージェントの能力拡張に追いついていないという。

この状況は、かつて「シャドーIT」として問題視された構図と重なる。IT部門の管理外でSaaSツールやクラウドサービスが野良導入された時代と同様に、今度はエージェントが現場主導で展開され、セキュリティ部門が実態を把握できないまま業務に組み込まれていく「エージェントのシャドーIT化」とも呼べる現象が起きている。従来のシャドーITとの違いは、エージェントが受動的にデータを参照するだけでなく、自律的にアクションを起こす点にある。制御できない存在が社内で能動的に動き続けるという意味で、リスクの性質は一段階上がっている。

「認証できること」と「制御できること」は別問題

従来のIAM（Identity and Access Management）は、「あるユーザーやアプリケーションがシステムにアクセスしてよいか」を判断するために設計されたものだ。AIエージェントはそこに新たなレイヤーを追加する。アクセスが許可された後、エージェントは自律的に判断し、一連のアクションを連鎖的に実行する。

「どのエージェントが動いているかを知ること」と「そのエージェントが適切な行動をしているかを判断すること」は別の問題だ。 企業が必要としているのは、エージェントの認証手段だけではない。

• どこでエージェントが動作しているか
• 何をしているか
• どの権限を持っているか
• 意図しない動作が起きたときに止められるか

これらを把握・制御する仕組みが求められている。

セキュリティインシデントを「静かに処理」する企業が3割超

ガバナンス不在のリスクは、すでに顕在化しつつある。Workatoのレポートによれば、エージェントに起因するセキュリティインシデントが発生した場合、36%のリーダーが社内外に開示せず静かに処理しようとすると回答した。監視体制が整う前に、すでにインシデントへの対応を迫られている企業が存在することを示唆している。

この数字が示すのは、技術的な問題だけでなく、ガバナンスの不透明さが組織文化にまで及んでいるという点だ。インシデントが表面化しにくい構造のまま運用が続けば、問題の蓄積に気づくタイミングも遅れる。エージェントの自律性が高まるほど、こうした非開示の判断が後に与える影響も大きくなりうる。

次のフェーズは「デプロイ数」ではなく「管理できるか」

Liz Hughesは記事の結論として、エンタープライズにおけるエージェント採用の次のフェーズは、いかに多くのエージェントをデプロイできるかではなく、すでに動いているエージェントを実際に管理できるかどうかにかかっていると指摘する。

AIエージェントに権限を与えること自体は容易だ。しかし、エージェントがその権限を行使し始めた後に追跡・制御することは、はるかに難しい。ガバナンス整備を後回しにしたまま展開を加速させることのリスクを、今一度見直す時期に来ている。

詳細はEnterprise controls can't keep up with AI agentsを参照していただきたい。