10月30日、InfoWorldが「AI agents are upending digital business processes」と題した記事を公開した。AIエージェントが企業の顧客向けデジタルシステムに静かに侵入しつつある現状と、その対応策を実務的な観点から論じた内容だ。
誰も「エージェントが来る」を想定していなかった
ユーザーがAIエージェントに銀行口座の認証情報を渡し、「金利の高い口座に自動で資金を移動して、引き落とし前に残高を調整して、不要なサブスクも解約して」と指示する。エージェントはその通りに動く。ユーザーから見れば、自分が許可した操作だ。
ところが銀行側の利用規約には「認証情報を第三者に渡してはならない」「非人間のソフトウェアによる操作は禁止」といった条項が含まれていることが多い。記事はこれを一例として取り上げているが、同じ構造的問題は航空会社、保険会社、税務サービス、小売業者など、顧客が「意味のある操作」を行えるWebサイトを持つあらゆる企業に波及する。
この問題の根底にあるのは、ウェブの設計思想だ。「キーボードの前に座っているのは口座の本人か、明示的に承認された代理人である」という前提がウェブ全体を貫いている。パスワード共有、スクリーンスクレイピング、家計管理アプリ（個人資産集計ツール）、RPA（ロボティック・プロセス・オートメーション）の時代からその前提は揺らいでいたが、AIエージェントはそれを決定的に崩す。情報を「読む」だけでなく、「判断し、連続して行動する」からだ。
責任の所在が誰にもない
記事が最も力を入れて論じているのが責任の所在問題だ。エージェントが誤った送金をした場合、誰が責任を取るのか。
- 顧客：「その取引を具体的に承認した覚えはない」
- サービス提供企業：「規約違反の外部エージェントに認証情報を渡したのは利用者だ」
- エージェントプラットフォーム：「ユーザーの設定通りに動いた」
- クラウドプロバイダー：「インフラを提供しただけだ」
記事はこれを「循環する撃ち合い（circular firing squad）であり、ガバナンスモデルではない」と表現している。「circular firing squad」とは、関係者全員が互いに責任を押し付け合う結果、誰も実質的な責任を負わないまま問題が放置される状況を指す言葉だ。
さらに問題を複雑にするのが消費者保護法の存在だ。多くの国で、不正・紛争取引に関する金融規制は消費者保護を優先する方向に傾いている。つまり企業は、顧客自身が規約違反の方法で動かしたエージェントによるトラブルであっても、取引を巻き戻すよう強制される可能性がある。顧客側の自動化による損害をサービス提供側が被るという最悪のシナリオだ。
記事は明示的に「Amazon、航空会社、保険会社、医療ポータル、税務サービス、SaaSプラットフォーム、小売業者、物流業者、政府機関も同じ問題を抱えている」と指摘している。銀行はあくまで一例であり、問題の射程は産業横断的に広い。
企業が今すぐやるべき4つのこと
記事は実務的な対応策として以下の4ステップを提示している。
1. 顧客操作のリスク分類
残高確認、請求書ダウンロード、住所変更、口座解約、送金、契約承認は、それぞれリスクレベルが異なる。デジタルチャネルで顧客が実行できる操作を洗い出し、委任自動化（delegated automation）に対するリスク評価とポリシーを各操作に設定する。
2. 明示的なアクセスモデルの策定
「ボット禁止」という曖昧な条項に埋もれさせない。どの種類のエージェントを許可するか、何ができるか、どう識別するか、顧客はどう承認・取り消しするか、紛争はどう扱うか、を明文化する。
3. テレメトリ（監視・観測）の強化
人間とオートメーションを区別できなければリスクを管理できない。全エージェントをブロックするのが目的ではなく、その操作が「正常・承認済み・高リスク・不審」のどれに当たるかを判断できるシグナルを確保することが目的だ。
4. 公式の委任アクセス経路を用意する
顧客がエージェントに支出分析や定期タスクの自動化を求めるなら、安全なAPIや委任アクセス機構を提供する。提供しなければ、顧客は認証情報の共有やブラウザオートメーションを使い続け、企業側の可視性は下がり、リスクは上がる。
2〜3年で大規模な再構築が起きる
記事の見通しによれば、今後2〜3年で企業のポリシー、規約、技術的コントロールは大規模に作り直される。まず「すべてブロック」に動く企業が多いだろうが、それは長期戦略にならない。顧客はこの機能を求めており、阻止すれば不満が生まれ、野放しにすれば許容できないリスクを引き受けることになる。
落とし所は「管理された委任」になると予測されている。具体的には、分析用の読み取り専用アクセス、承認済みエージェントへのトランザクション上限、細粒度のパーミッション、有効期限付きの認可、高リスク操作への追加認証、弁護士向けではなく人間向けの同意画面、認定エージェントエコシステム、そして人間のふりをしてウェブサイトを操作させるのではなくエージェント向けAPIの整備、といった方向性だ。
「ブラウザセッションをこの問題の正しい抽象化レイヤーとして扱い続けるのはやめる必要がある」という記事の一文が、この問題の本質をよく表している。エージェント時代のウェブ設計は、根本から問い直す段階に入っている。
詳細はAI agents are upending digital business processesを参照していただきたい。
