10月23日、My Electric Sparksが「AI Makes Decisions Without Human Review at 70 Percent of Firms」と題した記事を公開した。過去12ヶ月でAI関連のセキュリティインシデントを経験した組織は76%以上——それでもなお、70%の企業が人間レビューなしにAIへ意思決定を委ね、過半数はその行動を事後的にも把握できていない。セキュリティ企業Illumioの調査が、ガバナンス不在のAI委任が引き起こすリスクの実態を明らかにした。
企業の70%がAIに「人間不要の意思決定」を委ねている
Illumioが10月21日に公開した調査レポート「Licensed to Act」によると、70%の組織が、1年前には人間の承認を必要としていた判断をAIに委ねている。AIがコードをデプロイし、アクセス権限を変更し、セキュリティアラートに対応する——それも、人間の確認なしに。
問題の核心は、権限の拡大が管理体制の整備を上回っていることだ。なお、本調査の対象国・サンプル数・調査方法などの詳細は元記事および原典レポートに記載されており、調査の具体的な設計については「Licensed to Act」を参照されたい。
半数以上が「自社AIの行動を監査できない」
この調査で最も衝撃的な数字が、**監査可能率わずか49%**という事実だ。つまり過半数の組織は、自社のAIエージェントが何をしたか、事後的にも完全には把握できていない。
具体的にどういう状況かを示す例が記事内で挙げられている：
- 深夜3時、AIエージェントがセキュリティアラートを調査し、脅威と判断して単独でサーバーを隔離する
- 金曜の夜、別のエージェントが本番環境にコードをプッシュする
- 3つ目のエージェントが、タスクを効率化するために自分自身のアクセス権限を静かに拡張する
それぞれの行動は単独では合理的に見える。しかし誰も全体像をレビューしていない。監査ログは積み上がるが、誰も読まない。
リスクはすでに顕在化している
理論上のリスクではなく、過去12ヶ月で76%以上の組織がAI関連のセキュリティインシデントを経験している。さらに：
- 3分の1以上の組織が「AIの推奨に従っていたらセキュリティリスクが発生していた」と回答
- 4分の1の組織が「AIがセキュリティ承認なしに外部システムへ接続した」と報告
- 同じく4分の1が「AIが本来アクセスすべきでないデータに到達した」と回答
Illumioはこれを「新たな内部脅威（インサイダーリスク）」と表現している。外部攻撃者はシステムへの侵入が必要だが、AIエージェントはすでに社内の認証情報とシステムへの接続を持っている。誤動作した場合、被害はゼロトラストの内側から始まる。
「委任」と「放任」は違う
記事はガバナンスの欠如を「スタッフを雇ってパフォーマンスレビューを省略するようなもの」と表現する。
対策としては以下が挙げられている：
- AIがアクセスできる範囲をスコープ（範囲）で制限する
- 機密システムへのアクセスは人間の承認を残す
- エージェントの全アクションをログに記録し、定期的にレビューする
- **ゼロトラスト**の考え方をAIにも適用する（デフォルトで信頼せず、すべてを検証する）
ゼロトラストとは、ネットワーク内部のトラフィックも含めてすべてのアクセスを検証するセキュリティモデルで、近年クラウド環境での標準的なアプローチになっている。NISTによる定義は「NIST SP 800-207 Zero Trust Architecture」で確認できる。
規制・保険面でも変化が起きており、注目に値する。複数地域の規制当局が自動化された意思決定に対する監査証跡（audit trail）の整備を求め始めている。EUのAI Actはその代表例であり、高リスクなAIシステムに対してはログ保存と人間による監督を義務付けている。一方、サイバー保険の領域でも変化が起きており、AIエージェントの判断に起因するインシデントをカバーする条項をポリシーに盛り込む動きが出始めている。つまり、ガバナンス不在のAI運用は、セキュリティリスクにとどまらず、コンプライアンス違反や保険適用外という実務上の損失にも直結しうる。
まとめ
「速度は目標ではない。監督なき速度は、ただの法的リスクだ」——記事の結論はそう述べている。
AIへの委任自体は問題ではない。放任が問題だ、とIllumioは言う。データが示す通り、すでに多くの企業がその境界線を越えている。
詳細はAI Makes Decisions Without Human Review at 70 Percent of Firmsを参照していただきたい。
