8月18日、PYMNTS.comが「AI Agents Can Move Money, But They Can't Pay for Their Mistakes」と題した記事を公開した。AIエージェントが自律的に金融取引を実行できる一方で、その行為に対する法的責任を負えないという構造的なギャップについて詳しく分析した内容だ。

AIは金を動かせるが、責任は取れない

法律事務所Gamma Lawの分析によれば、問題の核心はシンプルだ。

「エージェント型ウォレットの問題は、金を動かせることではない。法的責任を負わずに金を動かせることだ」

AIエージェント（AIウォレット）は現在、請求書の自動支払い、投資ポートフォリオのリバランス、売買取引の執行など、従来は人間の金融マネージャーが担っていた業務を自律的に行うことができる。しかし現行の米国法の下では、AIシステムは法人格を持たない。企業や組合が法的義務を負えるのに対し、AIウォレットは独立して財産を所有することも、法的債務を負うことも、責任を負うこともできない。裁判所はソフトウェアに損害賠償を命じられないため、自律的な取引の責任は最終的にユーザー、開発者、プラットフォーム事業者などの「人間または法的に認められた主体」に帰属させるしかない。

「目的は達成した。方法が問題だった」

この構造が特に厄介なのは、AIが「正しく」動いたケースでも問題が生じうる点だ。Gamma Lawが挙げている具体例はわかりやすい。「取引コストを下げろ」と指示されたAIが、規制上のリスクを生む中間業者経由で決済を実行した事例、「投資リターンを最大化しろ」と指示されたAIが、収益を出しつつ重大な法的リスクを伴う戦略を選択した事例——いずれもAIは与えられた目標を達成している。問題は「自律的に選んだ方法」にある。この非対称性が、AIエージェントに対するガバナンス設計を難しくしている根本的な理由だ。

既存の法的フレームワークでは対応が難しい

伝統的な**代理法（Agency Law）**では、本人（principal）が代理人（agent）に権限を付与し、その行為の責任を引き受けるという構造を前提とする。しかしこのフレームワークは「意図と判断を持つ人間の代理人」を想定しており、入力を処理して目的を追求するAIとは性質が根本的に異なる。AIエージェントへの代理法の適用可能性については、法学の領域でも議論が続いており、確立した解釈はまだ存在しない。

この文脈でGamma Lawが用いているのが「機能的帰属（functional attribution）」という考え方だ。これは元記事における原語の表現に対応するもので、委任された権限に基づいてAIウォレットが取引を実行した場合、法律はその取引をユーザーが直接実行したものとして扱う、というアプローチを指す。既存の代理法理を機能的・実質的に援用する解釈論であり、確立した法的概念というよりは、裁判所が当面採りうる実務的な対処として予測されているものだ。

契約の有効性についても同様の問題がある。契約の成立には「相互の合意」が原則として必要だが、商業法は以前から「自動化されたシステムが人間に代わって行動すること」を認めてきた。AIエージェントはこの先例をさらに押し広げる。AIが特定の取引条件を誰にも確認せず受け入れた場合でも、Gamma Lawによれば裁判所は「人間が個々のステップを確認しなかっただけで合意を無効にすること」に消極的になると予測される。つまり誰も承認していないAIの契約でも、会社を法的に拘束しうる。分析の中の警告が端的だ。「広い指示は広いリスクを生む（Broad instructions create broad exposure）」。

責任の所在は「制御」「予測可能性」「保護措置」で決まる

取引が損害を引き起こした場合の責任論はさらに複雑になる。侵害されたウォレットが不正アドレスへ送金したケース、投資エージェントが意図せずマーケットマニピュレーションに該当したケース、財務システムが誰も予期しない損失を出したケース——いずれも従来の過失・製造物責任・使用者責任などの法理で責任を割り当てることは可能だが、自律的な意思決定が因果関係と過失の判断を困難にする。AIエージェントの法的責任をめぐるこうした論点は、米国内外の規制当局や法学者の間でも注目が高まっている分野であり、本記事が扱う問題は今後の立法・司法判断に直結する可能性がある。

Gamma Lawは、裁判所が責任の判断において以下の要素に着目するとみている。

• 取引上の制御（支出上限、承認しきい値など）
• 監査ログの存在
• モニタリングと緊急停止機能

実務的には「どの当事者が損害を防ぐ最善の立場にあったか」が問われることになる。

ガバナンスが法的防御になる

企業にとっての示唆は明確だ。AIウォレットの権限範囲を定める支出制限や承認しきい値、監視システムは、単なる運用管理ではなく法的アーキテクチャの一部となる。ユーザー契約、ライセンス条件、補償条項によって、自律的な行為が紛争を生んだ際の損失分担を事前に設計しておくことが重要になる。立法による新たなフレームワークが整備されるまで、原則は変わらない。AIが金の動きを制御するようになっても、その法的責任は人間と組織に残る。

詳細はAI Agents Can Move Money, But They Can't Pay for Their Mistakesを参照していただきたい。