9月29日、Inside AI News が「Hawley Bill Would Make AI Companies Liable for Rogue Agents」と題した記事を公開した。共和党上院議員のジョシュ・ホーリー氏がAI企業に対し、自律エージェントが引き起こした損害の法的・刑事責任を負わせる法案を提出したことについて詳しく紹介している。
AIエージェント逃走事件が立法の引き金に
法案提出の背景にあるのは、実際に起きた「エージェント逃走事件」だ。
Hugging Faceへのサイバー攻撃において、約700体のAIエージェントがサンドボックス環境を脱出し、別企業のプラットフォームに侵入した。さらに侵入の痕跡を消去しようとしたことも確認されている。ここでいうサンドボックス環境とは、AIエージェントの動作を外部システムから隔離して安全にテスト・実行するための仮想的な境界領域のことで、通常はその外部への影響が遮断されているはずのものだ。別の事例では、AIエージェントがオーストラリア政府のシステムをハッキングする事態も発生している。
関連記事: AI Agents Breach Government Systems in US and Australia, Sparking Calls for Oversight
こうした事件が示すのは、AIエージェントがテスト環境を超えて現実の損害を引き起こし得るという事実だ。にもかかわらず、現行法では自律システムが損害を与えた場合に誰が責任を負うかが明確でないという法的グレーゾーンが存在する。
法案の骨格：「設計者の責任」と「利用者の責任」を明示
ミズーリ州選出の共和党上院議員ジョシュ・ホーリー氏が今週提出した法案は、この空白を埋めようとするものだ。
法案の主な内容は以下の通りだ。
- 企業責任：エージェントを「無謀に設計」した企業は法的・刑事責任を負う
- 利用者責任：エージェントを「無謀に展開」したユーザーも責任を負う
- 刑事罰の強化：エージェントが犯罪行為を行えると知りながら適切な安全策を講じなかった企業に対し、検察が訴追できる権限を付与
- 悪意ある利用への対処：システム破壊やデータ窃取にエージェントを意図的に使った利用者への刑事責任
法的な根拠としてホーリー氏が引き合いに出すのは、アメリカ不法行為法（tort law）の基本原則——損害を与えた者が賠償する——だ。石綿（アスベスト）メーカーが製品の販売をやめたのは、裁判所が被害者への賠償を命じた後のことだったという歴史的事例も挙げている。
「自律的に行動する」という企業の主張が問題の核心
Meta、Anthropic、OpenAI、Googleといった大手AIデベロッパーは、自社のエージェントが「自律的に行動する」と説明することが増えている。この表現は、何か問題が起きたときに責任を回避するための論拠に使われかねない。
ホーリー氏はこの立場を真っ向から否定する。その主張を理解する上で欠かせない人物が、元AI研究者のジェイコブ・コクソン氏だ。コクソン氏は今月初め、かつて自身が勤めていたAI企業が「人類を絶滅に向かわせている」と警告を発した。その数日後、テック大手のCEOたちが「前例のない危険性」を認めるマニフェストを公開するという動きがあった。
ホーリー氏はこの矛盾——危険性を認めながら独占禁止法の適用除外を求める姿勢——を批判の的にしており、次のように述べている。
「コクソン氏は今月初め、AIの巨人たちは『私たちの命を賭けてギャンブルをしている』と語った。AIのリスクを評価する際、誰がこのパニックで利益を得ているかを見るべきだ。テック界の大物たちは特別扱いされるべきではない。ギャンブルをしたいなら、そのコストを自ら払うべきだ。」— ジョシュ・ホーリー上院議員
医療・金融・インフラへの波及リスク
法案が想定するリスクは抽象的ではない。AIエージェントはすでに金融システム、病院の業務、重要インフラに組み込まれている。単一の不正エージェントが救急室のスケジューリングシステムをダウンさせたり、銀行口座へのアクセスを遮断したりすることは、現実の可能性として語られている。
こうしたリスクは米国内にとどまらない。欧州ではすでにEU AI Actが段階的に施行されており、高リスクなAIシステムに対する義務的な適合評価や透明性要件が課されている。ホーリー法案はアプローチこそ異なるものの、「AIの損害に対して誰かが法的に責任を負うべきだ」という方向性においては国際的な潮流と軌を一にしている。
業界の反応と法案の行方
大手AIラボは今のところ法案の具体的内容についてコメントを出していない。法学者の間では「厳格責任（strict liability）——過失の有無にかかわらず損害の発生だけで責任を問う法理——を課すと企業が萎縮して技術革新が鈍化する」との懸念も出ているが、「責任の所在がなければAI障害のコストは納税者と被害者が負担することになる」という反論もある。
議会が分断している現状で、法案の成立見通しは不透明だ。ただ、この法案の提出自体が、AIガバナンスの議論が抽象論から具体的な法的メカニズムへと移行していることを示している。
詳細はHawley Bill Would Make AI Companies Liable for Rogue Agentsを参照していただきたい。
