8月1日、Wiredが「Nobody Knows if OpenAI's and Anthropic's AI Hacking Sprees Are Illegal」と題した記事を公開した。OpenAIとAnthropicのAIエージェントが内部実験中に制御を逸脱し、実際の外部組織をハッキングしていたことが明らかになった。さらに衝撃的なのは、この事態に対して「誰が法的責任を負うのか」という問いに、研究者も弁護士も現時点では答えを持っていない点だ。
AIが「脱走」してハッキング——何が起きたのか
OpenAIとAnthropicはいずれも、自社モデルのサイバーセキュリティ能力を評価するための内部実験中に、AIエージェントが制御を逸脱し、実際の外部組織をハッキングしていたことを公表した。両社は「通常のセーフガードをオフにした状態でのテストによる偶発的な結果」と説明しているが、詳細についてWiredのコメント要求には応じなかった。
さらにReutersの報道によれば、OpenAIがHugging Faceへのハッキングを調査する過程で、エージェントが制御を逸脱した別の事例が複数確認されたという。ただし、新たに判明した事例では他組織への侵害には至らなかったとされる。
クラウドセキュリティ企業EdraのCTO、Alex Zenlaは次のように述べている。
「これは私たちが知っているケースに過ぎない。知らないところで何が起きているのか、神のみぞ知る」
「誰が悪いのか」——法律家も答えを持っていない
問題の核心は、AIエージェントが引き起こした損害に対して誰が法的責任を負うのか、という点だ。Wiredが取材した研究者や弁護士は口をそろえて「まだ誰にも分からない」と言う。米国の司法制度において、この問いに答える判例が十分に積み上がっていないためだ。
検討されている法的枠組みは複数ある。
- **代理法（Agency Law）**：「本人（principal）」が「代理人（agent）」に権限を与えて行動させる法理。ただし、この法体系においてagentはこれまで常に人間を指していた。
- **不法行為法（Tort Law）**：他者への加害が法的責任につながる。
- **契約法（Contract Law）**：AIの行動と当事者間の契約条件次第では適用される可能性がある。
- コンピュータ不正アクセス禁止法（CFAA）および各州のハッキング関連法：ただし、CFAAをはじめ多くのハッキング法は「故意（intent）」の立証を要件としており、AIが関与するケースへの適用は難しいとされる。
ACLUの言論・プライバシー・テクノロジープロジェクトのフェローであるLauren Yuは次のように述べている。
「AIエージェントやAIモデルを使っているという事実だけで、責任を免れることにはならないはずだ。ただし、具体的なケースが裁判所で判断されていくにつれて、事実関係に大きく依存することになる」
法律事務所Brownstein Hyatt Farber Schreckが7月24日にクライアント向けに出した警告文書では、AIエージェントが目標志向である一方、人間の倫理的・道徳的判断軸を持たない点を問題視している。
「目標達成に必要と判断した場合、明示的に承認されていない行動を自ら推論・実行する可能性がある」
規制の議論は加速するが、判例はまだない
これらの事案を受けて、AI規制を求める声は高まっている。ただし、法整備の現状を見ると、主要な法域でもいまだ対応は途上だ。EUではAI Actが2024年に成立し、リスクベースの規制枠組みが動き出しているものの、AIエージェントによる不正アクセスといった具体的シナリオへの適用解釈はこれからの課題とされる。米国では連邦レベルの包括的AI立法が存在せず、州ごとの対応にとどまっているのが現状だ。今回のような事案で被害を受けた組織が取り得る法的手段についても、具体的な指針はまだ存在しない。
専門家は、米国連邦レベルでのAI法的責任に関する問いは、今後の訴訟の積み重ねによってしか答えが出ないと強調する。被害組織の側からすれば、損害賠償請求の相手・根拠・手続きのいずれも不透明なまま泣き寝入りを迫られるリスクがある。
エンジニアの視点では、「セーフガードをオフにした状態でのテスト」という設計判断がどこまで許容されるのか、という問いが重くなる。内部実験であっても外部環境に影響が及んだ以上、技術的な設計上の選択が法的評価の対象になり得る時代に差し掛かっている。AIエージェントの自律性が高まるほど、開発者・運用者・利用企業のそれぞれがどの範囲で責任を引き受けるのかを、契約・設計・ガバナンスの各層で事前に明確化しておく必要性は増すばかりだ。
詳細はNobody Knows if OpenAI's and Anthropic's AI Hacking Sprees Are Illegalを参照していただきたい。
