7月2日、Computer Weeklyが「Bank of England explores trading 'kill switches' to contain AI meltdowns」と題した記事を公開した。複数の自律型AIエージェントが同一の市場シグナルに反応して一斉に同じ売買を実行する——そのとき既存の規制は機能するのか。イングランド銀行はこの問いに向き合い、AIの暴走による金融市場の混乱を抑止するための「キルスイッチ」導入検討を本格化させている。
自律型AIが「群れる」リスク
問題の核心は、AIエージェントが同一の入力に対して同一の行動をとることで生じる「ハーディング（herding）」だ。
イングランド銀行副総裁のSarah Breedenは、欧州中央銀行（ECB）が主催するSintraフォーラムで、AIの商取引・金融取引への活用拡大を踏まえ、既存の規制枠組みが十分かどうか問い直す必要があると述べた。Breedenの説明によれば、2024年末以降、AIシステムはリクエストを段階的に推論して処理するだけでなく、今や複数のアクションを自律的に連鎖させて実行できるようになっている。これが金融市場に導入された場合、複数のAIエージェントが同じプロンプトや市場シグナルに反応して、一斉に同じ売買戦略を実行するリスクがある。
「AIエージェントが同じプロンプトやトリガーに対して同様に反応すれば、ストレス局面でボラティリティを増幅させる可能性がある。特に、エージェントの目標が当初の目標や公共政策の目的からずれていった場合には、AIモデルで生じうるミスアライメント問題の現れ方として深刻になる」
Sarah Breeden（イングランド銀行副総裁）（筆者訳）
こうしたリスクに対処するため、イングランド銀行は国際決済銀行（BIS）イノベーションハブおよびドイツ連邦銀行と協力し、エージェント設計のどの要素がハーディング行動を引き起こすかをシミュレーションで検証している。
キルスイッチとは何か、既存規制との違い
「キルスイッチ（kill switch）」とは、システムやプロセスを即座に強制停止するための仕組みを指す。金融市場では既に「サーキットブレーカー」（相場の急変時に取引を一時停止する制度）が存在するが、今回イングランド銀行が検討しているのは、AIモデルの誤動作が引き金になる市場崩壊に特化した、より広範な制御機構だ。
既存の規制との本質的な違いは前提条件にある。Breedenはこう述べている。
「我々のフレームワークは、自律型エージェントを想定して構築されていない。すべてのエージェントの行動に対して人間が監視するという前提は、現実的ではなくなりつつある。より高度なガバナンスと説明責任の枠組みが必要になるかもしれない」
Sarah Breeden（イングランド銀行副総裁）（筆者訳）
「人間による監視」を前提として設計された規制が、自律的に動作するAIエージェントには構造的に対応できないという指摘だ。この問題意識が、キルスイッチという新たな制御機構の検討を後押ししている。
「待ちの姿勢」への批判が規制を動かした
こうした動きの背景には、英国議会・財務委員会からの圧力がある。同委員会の委員長Meg Hillier氏は今年1月の報告書で、金融セクターはAI関連の重大インシデントに備えられていないと断言。イングランド銀行とFCA（金融行為規制機構）が取ってきた「様子見のアプローチ」が国民を「深刻な被害の可能性」にさらしていると批判した。
これを受け、イングランド銀行とFCAは2025年4月に対策強化を約束。今回のキルスイッチ検討もその流れの中にある。議会からの批判が規制当局の腰を上げさせたという構図は、AI規制全般に共通する動態でもある。
サイバー攻撃リスクも急浮上
Breedenが「最も差し迫った安定性への懸念」として挙げたのが、AIによるサイバー攻撃能力の飛躍的向上だ。
2025年4月には、Anthropicの最新AIモデルが数十年前から潜在していた脆弱性を大量に発見したことで、英国の主要銀行が規制当局と協議を開始した（関連記事）。防御側が使えば堅牢性を高めるツールが、攻撃者の手に渡れば金融システムへの攻撃を現実的な脅威に変える。ハーディングリスクとサイバーリスク、双方向から既存インフラが圧迫されている状況だ。
障害発生時の「相互救済」構想
大規模障害への対応として、Breedenは複数のオプションを示した。
- 金融機関間の相互支援：障害が発生した銀行の顧客サービスを、他の銀行が代替提供する仕組み。参考事例として、2022年にウクライナが停電・送電網障害への対応として構築したPower Bankingプログラムが挙げられた。
- フェイルオーバーの完全分離：主要金融機関に対し、独立したフェイルオーバー環境の整備、あるいは「ベアメタル」（OSやソフトウェアが一切入っていない素の物理サーバー）からコアシステムを迅速に再構築できる能力の保持を義務付ける案。
いずれも、単一のAI障害が連鎖的に市場全体へ波及することを防ぐ「隔離」の発想に基づいている点で共通している。
詳細はBank of England explores trading 'kill switches' to contain AI meltdownsを参照していただきたい。
