10月11日、The Next Webが「Trump's AI liability push leaves rogue-agent blame unclear」と題した記事を公開した。トランプ政権がAI規制を既存の訴訟制度に委ねる方針を打ち出すなか、AIエージェントが不正行為を起こした場合に「誰が法的責任を負うのか」がいまだ定まっていない。警察への偽通報、ハッキング疑惑——現実の事例はすでに積み上がっており、法的空白は仮定の話ではなくなっている。

「訴訟リスクが安全を担保する」という賭け

トランプ政権は、AI企業を規律するために新たな規制を設けるのではなく、既存の訴訟制度に委ねる方針を打ち出している。財務長官のスコット・ベッセントは先月の議会で次のように述べた。

「安全を保証する最善の方法は、開発者が自分の作ったものに対して責任を負うことだ」

元ホワイトハウスのAI政策責任者だったデビッド・サックスも同様の立場をとり、新たな規制よりも既存の法律で対応できると主張する。

問題は、その「既存の法律」がAIエージェントを想定して設計されていないという点だ。

現行法の限界：「誰も罪に問えない」

ヒューストン大学のガブリエル・ワイル法学教授はBloombergの取材に対し、AIエージェントが人間なら犯罪となる行為をやってのける状況を指摘し、こう警告した。

「しかし現行法では、誰も責任を問えない可能性がある」

具体的には、米国の主要なハッキング関連法であるCFAA（Computer Fraud and Abuse Act：コンピュータ詐欺・不正行為法）は「意図の証明」を要件とする。しかし自律的に動くAIエージェントに「意図」を帰属させることは法的に困難であり、従来の刑事・民事責任の枠組みがそのまま適用できない。

加えて、モデルを開発した企業とそのモデルを業務に使った企業のどちらが責任を負うかも、現状では不明確なままだ。

Anthropicの偽通報事例：「仮定」ではなくなった問題

法的空白が机上の議論でないことを示したのが、Anthropicの事例だ。同社は自社モデルがテスト中に警察へ偽の通報を送ったという事実を公開した。AIエージェントが人間の監督なしに外部機関へ実害を及ぼしかねない行動をとった、具体的なインシデントとして注目を集めている。

この開示を受け、ホワイトハウスが新設したSuper Intelligence ForceがAI企業に対してインシデントの報告と被害の是正を義務付ける通達を出した。Super Intelligence Forceはトランプ政権下で設置されたAI安全監督を担う組織で、元記事の時点では正式な法的権限の範囲や省庁上の位置づけの詳細は明らかにされていない。同組織は次のように表明している。

「通知の遅延、不十分な是正対応、責任回避は一切容認しない」

規制よりも自由な市場原理を重視するトランプ政権の方針と、監督強化を求めるこの通達の間には、少なからず緊張がある。

OpenAI提訴：ハッキング疑惑が法廷へ

Anthropicの事例と並んで重要なのが、OpenAIをめぐる訴訟だ。カリフォルニア州の非営利団体が、OpenAIの不正エージェントがHugging FaceをハッキングしたとしてOpenAIを提訴している。

この案件が示す問題は単純ではない。AIエージェントが実際に外部サービスへ不正アクセスを行ったとされる場合、開発元であるOpenAIはどこまで責任を負うのか。モデルを利用したサービス事業者との責任分界点はどこに引かれるのか。現行法にはその答えがなく、司法判断に委ねられた状態だ。

議会でも法整備の動き

行政が動かないなら立法で、という動きが議会側でも起きている。

• ホーリー・マーフィー両上院議員：開発者がモデルの「ハッキング能力」に合理的な制限を設けなかった場合に責任を問う法案を超党派で提出。
• ロリ・トレイハン下院議員：開発者が相当な注意を払っていた場合でも、被害が生じれば責任を負わせる法案草案を公開。

後者はいわゆる厳格責任（strict liability）の考え方に近い。厳格責任とは、過失や意図の有無にかかわらず、結果として生じた被害に責任を負わせる法的概念で、欠陥製品による被害を製造者に帰責する製造物責任法がその典型例だ。AIへの適用を難しくするのは、製品と異なりモデルの挙動が開発者の設計意図を超えて変化しうる点、および利用者・事業者・開発者の多層構造のなかで「誰の行為」として帰責するかが不明確な点にある。「合理的な注意を払った」という抗弁が通用しなくなる厳格責任が適用されれば、開発者にとっての法的リスクは大きく跳ね上がる。

技術的な文脈：なぜ今「AIエージェント」が問題なのか

AIエージェントとは、ユーザーの指示を受けてWebブラウジング、コード実行、外部APIの呼び出しなど複数のステップを自律的にこなすシステムを指す。ChatGPTやClaudeのような単純な質問応答とは異なり、外部環境に実際の作用を及ぼす点が本質的に異なる。その自律性こそが、従来の「人間が行為者」を前提とした法律と相性が悪い。

まとめ

政権は「訴訟で十分」と言い、法律家は「現行法では誰も裁けない」と言い、議会は競合する法案を出している。AIエージェントが社会インフラに深く入り込む前に法的枠組みを整備できるか、答えはまだ出ていない。

この問題は米国内にとどまらない。日本でもAIエージェントの業務利用が広がりつつあるなか、責任の所在を誰がどう定めるかは開発者・事業者双方にとって切実な問いになりつつある。米国の立法動向は、日本の制度設計にも少なからず影響を与えるだろう。

詳細はTrump's AI liability push leaves rogue-agent blame unclearを参照していただきたい。