10月8日、Jelani Harperが「Why data governance struggles to audit shadow AI」と題した記事を公開した。この記事では、従来のデータガバナンス手法がシャドーAIの監査に対応できない構造的な理由と、企業が取り得る対策について詳しく紹介されている。以下に、その内容を紹介する。
「見えないものは統制できない」——シャドーAIが突く盲点
シャドーIT（未承認のITシステムの業務利用）は、かつてもガバナンス上の頭痛の種だった。シャドーAIはその現代版であり、構造的にはより深刻だ。
従業員が社外の承認されていないAIツールに企業データを持ち込む行為を、記事では「未承認のコンテキスト組み立て（unapproved context assembly）」と定義している。ドキュメントや各種レコードを外部AIに入力してアウトプットを引き出す一連の操作は、通常のガバナンスチェックをことごとく素通りする。
Snowflakeのセキュリティ担当プロダクトリーダーであるNitika Guptaは次のように説明する。
「データが正しく分類されていたか、アクセスポリシーが守られていたか、データがどこへ行ったか、第三者に保持されたか、最終出力にどう影響したか——こうした確認がすべてバイパスされる」
この結果として生じるリスクは、データ漏洩、法令違反、不正確なモデル出力、エージェントによる無断アクション、と多岐にわたる。
既存の制御がシャドーAIを捕捉できない理由
問題の核心は、従来のガバナンスツールが「既知のチャネル」しか監視していない点にある。
Obsidian SecurityのSean Rocheによれば、従業員が組織の管理外のボットや言語モデルを利用した場合、「SIEMに送られるログもテレメトリもなく、誰にも通知されない」。
DLP（データ損失防止）ツールも同様の限界を抱える。
「DLPはチャットを見ている、ダウンロードを見ている、端末を見ている。だからオープンインターネット上で起きることの多くを見逃す。OAuthやSaaS連携でデータが動く今の環境には、そもそも設計されていない」（Roche）
さらに、SalesforceのようなSaaSアプリケーション内で言語モデルやRAG（Retrieval-Augmented Generation、外部データを参照させながら生成AIを動かす仕組み）が動作する場合、ネットワークプロキシを経由しないため、SaaSアプリ側に保護機能がなければ監視は不可能だとRocheは指摘する。
データ漏洩は「最初の失敗」に過ぎない
記事が強調するのは、漏洩はあくまで入口に過ぎないという点だ。
AIエージェントがワークフローや意思決定に組み込まれると、攻撃対象面（attack surface）は急速に拡大するとGuptaは言う。エージェントが組織を代表するかのようにコミュニケーションやアクションを取ることで、実質的に「企業のなりすまし」が発生し得る。Rocheはその結果として訴訟、顧客対応の悪化、売上損失を挙げる。
SASのAIプロダクトマーケティングストラテジスト、Luis Flynnはデータ主権（data sovereignty）の問題も指摘する。言語モデルがどこでホストされ、データがどこに保存されるかという問題は、特にクロスボーダーでの規制対応において無視できない。
ポイントツール頼みが招く「別のサイロ」
多くの企業がプロンプトレベルの対策——プロンプトや応答をリアルタイムで解析し、機密情報を検出・難読化・削除するツール——に頼っている。しかしDenodoのシニアデータアーキテクト、Terry Dorseyはこう警告する。
「概念レベルではなく、技術レベルだけで対処しようとする企業は多い。ガバナンスの全体方針から逸脱した場合、それぞれが独自のアクセス制御を持つ新たなデータサイロを生み出すだけになる」
短期的な効果はあっても、スケールしないのが現実だ。
実効性のある対策の方向性
記事が提示する、より根本的なアプローチは以下の通りだ。
- データを外に出さない設計：オープンソースを含む言語モデルをローカルで動かし、機密データが組織外に出ないようにする
- APIコール地点でのポリシー適用：ゲートウェイを設け、API呼び出しの段階でポリシーを強制する
- SaaSアプリの監視：ユーザー・権限・データガバナンスのポリシー違反をサードパーティSaaSアプリ側で監視するツールを導入する
- 既存利用の承認と取り込み：すでに使われているAIリソースを特定・承認し、ガバナンスの傘下に収める
Flynnはこれを「能力をデータに近づける」再設計と表現している。逆方向——データを能力に持ち込む——が問題の根本だからだ。
シャドーAIへの対応は、ツールの追加ではなくデータ戦略の再設計を要求している。特にAIエージェントの自律的な行動が前提になるアーキテクチャでは、この問題はより一層深刻になる。
詳細はWhy data governance struggles to audit shadow AIを参照していただきたい。
