10月15日、madrobot.blogが「The G20's financial watchdog wants every bank AI agent to have its own ID and a human who can stop it」と題した記事を公開した。この記事では、G20の金融安定理事会（FSB）が金融機関のAIエージェントに個別IDとキルスイッチの整備を求める最終ガイドラインを公表したことについて詳しく紹介されている。以下に、その内容を紹介する。
銀行のAIエージェントに「社員証」を持たせ、人間が止められる仕組みを義務付ける——G20の金融監督機関がそう要求する時代になった。
AIエージェントに個別IDとキルスイッチを
金融安定理事会（FSB）は10月15日、「責任あるAI導入のためのサウンドプラクティス」最終版を公表した。FSBはイングランド銀行総裁Andrew Baileyが議長を務め、G20各国の金融規制当局を調整する国際機関だ。今回の「12のサウンドプラクティス」は法的拘束力を持たないが、FSBはG20首脳に報告する立場にあり、各国規制当局がその内容を国内ルールに反映させる傾向がある。
エンジニアが最も注目すべきポイントはエージェント型AIへの要件だ。最終版では以下が求められる：
- エージェントごとにユニークなIDを付与し、どのエージェントがどのアクションを実行したかを追跡できるようにする
- エージェントのすべての行動・判断・中間ステップ・エスカレーションを記録し、特定の人間と紐付けられるようにする
- アクションのトリガー、使用したデータとツール、各ステップで権限の範囲内に収まっていたかを追跡できるようにする
- キルスイッチを実装する。AIシステムを即時停止するか、段階的に人間オペレーターへ制御を引き渡す仕組みのいずれかを用意すること
また、権限拡大に伴うリスクについて、最終版は「エージェントのリスクは権限が拡大するにつれて加算的ではなく乗算的に増大する可能性がある」と警告している。新しいツールやデータへのアクセスを追加する際は、既存のアクセスとまとめてリスク評価し、用途ごとにリスク許容度を事前に合意しておくよう求めている。
「AIがAIを監視する」という現実
エンジニアとして興味深いのは、FSBが人間によるリアルタイム監視の限界を正直に認めている点だ。
「エージェントは目標達成のために数百の中間ステップを踏み、そのいずれかでエラーが起きうる。利用規模が拡大するにつれ、リアルタイムの人間監視は現実的でなくなる。場合によっては、効果的な監視と検知のために別のAIエージェントやその他のAI技術による補完が必要になる可能性がある。」
つまりAIをAIで監視する構成を公式に容認している。
人間の監視体制については、以下のメニューが示された：
- Human-in-the-loop：人間がすべての判断を承認
- AI-in-the-loop：AIがアラートを出し、人間が対応
- Human-on-the-loop：必要時のみ人間が介入
- Human-in-command：高度自律型エージェント向け。人間が制限とガードレールを設定
- キルスイッチ：即時停止または段階的な人間への制御移管
なお、AIシステムのリリース後の監視担当者は、そのシステムを構築した人間であってはならないとも明記された。開発と監視の分離を求める要件だ。
6月のドラフトからの変更点
6月10日に公開されたドラフトには銀行・保険会社・アセットマネージャー・テックプロバイダー・学術機関など約160件のフィードバックが寄せられた。多くがエージェント型AIへの言及強化を求め、最終版ではリスクセクションの更新と高度自律型AI向けの考慮事項の追加、そして新たなエージェントAIのケーススタディが加わった。
そのケーススタディが具体的だ。ある大手国際銀行が社内で3ヶ月で構築した不正検知エージェントは、検知ルールを提案し人間チームが承認する仕組みで運用される。このエージェントはカード不正ルールの4分の3の作成・更新に貢献し、2026年度上半期に不正損失を20%以上削減したという。
サードパーティAIへの要件も強化された。多くの回答者が「特にフロンティアモデル」についてベンダーから十分な情報を得られないと指摘。最終版は監査権・データ権・契約終了権の確保、AIと明示されていないソフトウェアに組み込まれたAIの識別、重要AIサービスの移行計画の策定、そして各社が連携してプロバイダーに共通条件を求めることを求めている。
なぜ今これが重要か
銀行のAIエージェント活用は既に進んでいる。BarclaysはClaude Codeを開発者の半数以上に展開済みであり、自律的にルールを書く不正検知システムも実稼働中だ。さらにイングランド銀行は先月、暴走したAIモデルを金融安定リスクと名指ししたばかりだ。
FSB自身が今回のガイドラインについて「エージェント型AIにはより包括的な対応が必要かもしれない」と認めており、より厳しい要件が今後来ることを示唆している。今回は非拘束のガイドラインだが、各国規制当局が国内ルールに組み込む段階になれば、金融機関のAIシステム設計に直接影響する。
詳細はThe G20's financial watchdog wants every bank AI agent to have its own ID and a human who can stop itを参照していただきたい。
