11月22日、Wiredが「Banks Have Had It Up to Here With Your AI Agent」と題した記事を公開した。米国の大手銀行がサードパーティのAIエージェントによるアカウントアクセスを規約で禁止・制限し始めている動向を詳しく報じている。
「AT YOUR OWN RISK」——銀行各社、AIエージェントを規約で締め出し
Wells Fargoは今週火曜日から、AIエージェントに関する新しい利用規約を数百万人の顧客に適用する。その文言は明快だ。
「AIエージェントの使用はすべて自己責任です(AT YOUR OWN RISK)」
これはWells Fargoだけの話ではない。JPMorgan Chaseは10月下旬、ユーザーの認証情報を使ってログインするサードパーティエージェントを禁止するよう規約を変更した。Bank of Americaも同日、ログイン情報をエージェントと共有しないよう顧客に警告。CitibankとPNCも同様の警告を規約に追加した。
銀行だけではない。AmazonはMetaのAIエージェント「Muse」によるプラットフォーム上での購買をブロックし、United航空もパーソナルボットによるフライト購入を禁止すると発表した。AIエージェントをめぐる「縄張り争い」がウェブ全体に広がっている。
なぜ今なのか
AIエージェントとは、ウェブ上のタスクを自動化し、ユーザーの代わりにクリックや操作を行うソフトウェアだ。買い物リストの作成、旅行の宿泊先検索、価格変動の追跡といった用途でマーケティングされることが多い。ただし普及はまだこれからの段階で、ForresterのアナリストSucharita Kodali氏は現状をこう整理する。
「データを見ると、エージェントが何かを知っている人はほとんどいないし、使っている人はさらに少ない」
それでも銀行が動いたのは、リスク管理の観点からだ。Kodali氏は「銀行は本質的にリスク回避志向が強い。エージェントが普及した場合に備えて先手を打つのは合理的だ」と見る。セキュリティ上の懸念としては、不正なトランザクションや自動引き落としによるアカウント保有者への損害が挙げられる。
Bryant大学マーケティング准教授のKacy Kim氏は、責任の所在に関する問題を指摘する。「消費者が承認するのは『目標』であって、個々のクリックではない」。AIエージェントが誤操作した場合、ユーザーが責任を負わされることへの不満は出るだろうが、すでにエージェントを日常的に使い込んでいるアーリーアダプター層を、今回の規約変更が追い払うことはないと同氏は予測する。
「10羽のローストチキン」問題
University of VirginiaでAIと消費者心理を研究するLuca Cian教授は、責任の所在問題をわかりやすい仮説で説明する。ユーザーのAIエージェントがスーパーで誤ってローストチキンを10羽注文してしまったとする。誰が責任を負うか。
- 小売業者:有効な注文を処理しただけと主張
- AIツール開発者:ソフトウェアを提供しただけ、免責事項も記載済みと主張
- 銀行:今回の規約変更で責任を負わない立場を明確化
現時点で限定的な保護を検討しているのはAmerican Expressだけで、特定のエージェントによるミス(注文数量の誤りなど)について、小売業者からの返金が得られない場合に補償の対象とする可能性を示唆している。
銀行は「外を締め出しながら、内側を整備中」
Cian氏は銀行の姿勢を端的に表現する。「銀行は同時に2つのことをやっている。外部エージェントへの扉を閉めながら、自社ツールを構築している」。
各社の自社AI整備の状況は以下の通りだ。
- Wells Fargo:生成AIを使って質問に回答する自社ツールへのインタラクションが累計10億回を超えている
- Bank of America:社内向けAIアシスタントEricaAssistエージェントを展開(同行が消費者向けに提供するチャットボットEricaの派生・拡張版とされる)
- Citigroup:エージェント開発に特化した社内プラットフォームを立ち上げた
サードパーティを規約で排除しつつ、自社の影響力下にあるAIエージェントへの誘導を進めている構図だ。
普及するかどうか自体が疑問
Kodali氏はそもそもの前提に懐疑的だ。「AmazonやWalmartで買い物するのは難しくない。ほとんどの取引でエージェントは必要ない」。AIエージェントによるショッピング自動化は「問題を探しているソリューション」に映るとし、AI開発者がアフィリエイト収益を得るための手段として追求されている側面があると指摘する。
AIエージェントがショッピング自動化の主流になるのか、それとも静かに消えていくのか。いずれにせよ銀行の立場は決まっている。「あなたのボットは、あなたの問題だ」。
詳細はBanks Have Had It Up to Here With Your AI Agentを参照していただきたい。