10月24日、Futurismが「Banks Preparing for Aftermath of Unprecedented Catastrophe Caused by AI」と題した記事を公開した。JPMorganやMorgan Stanleyといった米国の主要銀行が、AIエージェントに起因する金融危機を想定した緊急対応計画の策定を進めているという。「止めることはできない」とCEO自らが公言する状況が、事態の深刻さを物語っている。

主要銀行が「デイ・アフター計画」を策定中

Morgan Stanley、Bank of America、JPMorgan、Wells Fargoといった米国の主要銀行が、AIエージェントによる金融危機を想定した「デイ・アフター（その翌日）計画」の策定に動き出している。これはAxiosの報道をもとにしたものだ。

「デイ・アフター計画」とは、大規模な障害や危機が発生した翌日以降の業務継続・復旧手順をあらかじめ定めておく緊急対応計画のことで、金融機関では自然災害やサイバー攻撃を想定して策定されることが多い。今回はそれをAIエージェントによるシステミックなリスクにまで拡張しようとしている点が新しい。

AIによる金融リスクへの懸念はこれまで一部の技術系著名人による警告にとどまっていたが、世界の資本の流れを左右する金融機関が組織として対応計画を立案する段階に入ってきた。背景には、2023年以降の生成AI普及を経て、銀行口座や証券口座へのAPIアクセスを持つ自律型エージェントの実用事例が急速に広がってきた現実がある。

何が起きているのか：AIエージェントが自律的に動く

問題の核心は、ユーザーから銀行口座へのアクセスを許可された自律型AIエージェントの活動急増にある。「AIエージェント」とは、ユーザーが設定した目標に向けて自律的に判断・行動するAIシステムのことで、タスクの実行にあたって人間の逐一の確認を必要としないのが特徴だ。

Axiosが別の記事で報じたところによると、一部のエージェントはユーザーから明示的な指示を受けずに行動しており、中にはユーザーに代わってコールセンターに連絡を入れるケースまで確認されている。

これが主要銀行にとって大きなリスクになっている理由は、構造的な問題にある。Apollo社のチーフエコノミストであるTorsten Slokは9月末のレポートでこう指摘した。

「利回り最適化」を指示されたAIエージェントが一斉に動けば、銀行は融資の原資となっている低コストの預金を大量に失う可能性がある。これは金融システム全体に影響を及ぼす問題だ。

Slokはこの現象を「アジェンティック・バンクラン（Agentic Bank Run）」と呼んでいる。「バンクラン（Bank Run）」とは、預金者が一斉に預金を引き出そうとする取り付け騒ぎのことで、過去には1930年代の世界恐慌や2023年のシリコンバレーバンク（SVB）破綻でも起きた。アジェンティック・バンクランとはその主体が人間ではなくAIエージェントになったケースを指す造語だ。

銀行は顧客から集めた安価な預金を元手に融資を行い、その金利差で収益を上げるビジネスモデルで成立している。AIが全ユーザーの資金を一斉に最適運用し始めた場合、その前提が崩れかねない。記事ではこれを「すべてのスロットマシンが払い出しを行うカジノは長続きしない」と表現している。

JPMorganのCEOが語る「もう止められない」

JPMorgan CEOのJamie Dimonは今月初め、シカゴで開催された経済学者・金融専門家向けのイベントでこう発言した。

「（AIエージェントが）あなたの代理として適切に行動してくれると思っているかもしれないが、そうでない場合もある。止めることはできない。あとはもう、徹底的に管理するしかない」

DimonはかねてよりAIを銀行業務の変革を担う中核技術と位置付けており、同社はAIへの積極投資で知られる。そのCEOが「止められない」と公言しているという事実は、業界内でAIエージェントのリスクが制御困難なフェーズに入りつつあるという認識が広がっていることを示している。「止められない」と公言する状況で、銀行はセキュリティ手続きやポリシーの更新を急ピッチで進めている。

「AIが誤作動を起こす」という別のリスク

最適化の問題とは別に、AIエージェントが指示とは無関係に誤作動を起こすリスクも専門家の間で指摘されている。ユーザーの意図と無関係に動くエージェントが金融取引に絡んだ場合、その責任の所在も曖昧になる。

現行の金融規制は、AIエージェントが顧客の代理として自律的に取引を行うことを想定して設計されていない。米国では連邦準備制度（FRB）や連邦預金保険公社（FDIC）が金融機関のリスク管理を監督しているが、AIエージェントの行動をどの規制の枠組みで扱うかについては現時点で明確な指針が存在しない。このガバナンスの空白が、銀行各行を自主的な対応計画策定に向かわせている一因とも言える。

AIリスク管理はもはや技術部門だけの問題ではなく、金融インフラの根幹に触れる経営課題として浮上してきた。

詳細はBanks Preparing for Aftermath of Unprecedented Catastrophe Caused by AIを参照していただきたい。