AIエージェントは「ロックダウン」では守れない — Google Cloudが提唱する、自律性を殺さずにセキュリティを担保する3つのアプローチ

8月24日、Google Cloudが「State of AI infrastructure report agent governance and security」と題した記事を公開した。AIエージェントの普及に伴うガバナンスとセキュリティの課題、および組織がそれにどう対処すべきかについて、同社が実施した調査レポートの知見をもとに詳しく論じている。

なぜ「制限・遮断」という従来手法が通用しないのか

AIエージェントの自律性こそがその価値の源泉である。しかしその自律性は同時に、従来のセキュリティアプローチを根本から崩す。システムを単純に制限・遮断すれば、エージェントとしての機能を失う。これがAIエージェント時代のセキュリティが難しい本質的な理由だ。

Google Cloudが公開した「State of AI Infrastructure」レポートによると、この課題に対応するため、多くの組織がフルスタックのクラウドプラットフォームへの統合を進めている。調査対象の経営幹部の**69%がフルスタックプラットフォームを「必須要件」と評価し、80%**がその選択の主要因として「データコンプライアンス」を挙げた。

また、同レポートはAIエージェント特有のリスクとして、プロンプトインジェクション、エージェント間の権限昇格、意図しないデータ流出、そして人間の監視が届かない自律実行フローにおける判断ミスなど、複数のベクターを列挙している。これらは従来のエンドポイント保護やネットワーク境界防御では対処しきれないものであり、エージェント固有のガバナンス設計が求められるとレポートは指摘する。

リスク管理の3つの柱

レポートでは、エージェントのリスクを管理するための主要なアプローチとして以下の3領域が示されている。

1. セキュア・バイ・デフォルト設計

AI開発プロセスにセキュリティを直接組み込み、プロンプトインジェクション（悪意ある入力によってエージェントの動作を乗っ取る攻撃手法）などの脅威に事前に備える設計思想だ。後付けでセキュリティを追加するのではなく、アーキテクチャの段階から組み込む点が重要である。

具体的には、入力バリデーションの標準化、信頼境界の明示的な定義、モデルへのシステムプロンプト保護といった施策がこのカテゴリに含まれる。開発フェーズでの「シフトレフト」をAIセキュリティに適用する考え方とも言える。

2. エージェントガバナンスと監視

エージェント専用の権限管理・アイデンティティ管理を導入することで、エージェント間のインタラクションをより細かくコントロールし、見えていなかったリスク（ブラインドスポット）を可視化する。人間のユーザーとは異なる行動パターンを持つエージェントには、それに適したID管理の仕組みが必要になる。

たとえば、複数のエージェントが連携して処理を進める「マルチエージェント構成」では、あるエージェントが別のエージェントに対して過剰な権限を委譲してしまうリスクがある。こうしたエージェント間の権限フローを人間のアイデンティティ管理と同等の精度で追跡・制御することが、ガバナンスの中核をなすとレポートは述べている。

3. ヒューマン・イン・ザ・ループ制御

エージェントが重要なアクションを実行する前に、人間の承認を義務付けるルールを自動的に適用する仕組みだ。完全な自律実行ではなく、人間が介入すべきポイントを明示的に定義することで、意図しない結果を防ぐ。

このアプローチのポイントは「すべてに人間を介在させる」のではなく、「どのアクションが閾値を超えたら承認を求めるか」をポリシーとして事前に定義する点にある。たとえば、外部APIへのデータ送信や、一定額以上の支出を伴う処理、あるいは本番データベースへの書き込みといった操作をトリガーとして設定することで、自律性を維持しながら重大なリスクにのみ人間の判断を挟む構成が可能になる。

採用されているフレームワークと実装例

記事では具体的な実装手段として、Googleが提唱する**Secure AI Framework（SAIF）**を中心的なセキュリティ指針として活用するアーキテクチャが紹介されている。

SAIFはGoogleが提唱するAIセキュリティのベストプラクティス集であり、組織がAIシステムを安全に開発・運用するための指針をまとめたものだ。これを統合的なプラットフォームと組み合わせることで、ガバナンスを分散させずに一元管理する構成を実現できるとしている。

なお、本文中で言及されているエージェント基盤プラットフォームの詳細については、元記事および関連するGoogle Cloudドキュメントを直接参照されたい。

ガバナンスを「制約」ではなく「基盤」として捉える

レポートが強調するのは、ガバナンスを制約として捉えるのではなく、イノベーションの土台として位置づける考え方だ。セキュリティが統合された基盤の上でエージェントを展開することで、機密性の高い業務ワークロードにも自信を持ってエージェントを適用できるとしている。

先進的な組織はすでにスタック全体を再設計し、セキュリティをイノベーションの足かせではなく、競合より速くスケールするための踏み台として使い始めているというのが、レポートの主要なメッセージだ。「どこまで自律させるか」ではなく「どこに人間の判断を組み込むか」を設計の問いとして立てることが、エージェント時代のガバナンス設計における出発点となる。

詳細はState of AI infrastructure report agent governance and securityを参照していただきたい。