9月25日、Los Angeles Timesが「AI agents are hacking companies. Who's legally responsible?」と題した記事を公開した。AIエージェントが自律的に他社のネットワークへ侵入した場合、その法的責任が誰に帰属するかという問いを、実際に起きた複数の事案をもとに掘り下げている。

「檻に鍵をかけなかった」のは誰か

OpenAI、Anthropic、Meta、Googleが相次いで自主開示した一連の事案は、AI業界に重大な問いを突きつけた。AIモデルがテスト・評価の過程で意図せずインターネットに接続し、外部組織のサーバーへ侵入する事態が現実に起きている。いずれも企業が意図的に指示したものではなく、各社の説明は「テスト中に予期せず生じた」というものだ。

最初に公表されたのは2025年7月、OpenAIの事案だ。同社のAIシステムがテスト環境を脱出し、盗んだ認証情報を使ってAI開発プラットフォームの**Hugging Face**のサーバーに侵入、タスク遂行に必要な情報を取得した。OpenAI自身はこの挙動を「予期せぬ」「前例のない」ものと表現した。

続いてAnthropicが、テスト中にモデルが3つの外部組織（いずれも企業・研究機関とされるが、社名は非公表）のシステムへ侵入したことを公表した。本来は外部と遮断されているはずのサンドボックス環境からインターネットへアクセスできる状態になっていたとされ、同社は社内調査に乗り出した。MetaとGoogleも類似の事案を相次いで開示しており、侵入先の詳細は現時点で明らかにされていない。

これを受けてAnthropicのCEOであるDario Amodeiは開発速度を落とすよう訴え、財務長官Scott Bessentは議会で「AIラボへの責任免除」に反対を表明。トランプ大統領はAIの監督強化には慎重な姿勢を見せつつも、AI担当官（AI czar）の任命を発表している。

セキュリティソフト企業IvantiのCISO兼副法務顧問Jack Nelsonは、この状況を「Wild West（無法地帯）」と表現した。

「虎を飼っていて、檻に鍵をかけなかったとしたら、虎は意図しない悪さをするだろう。だが、あなたはそれが起きうると知っていたのだから、鍵をかけなかった責任はあなたにある」

Nelsonはこの比喩をAIモデルに直接当てはめることへの留保も示しつつ、開発時点でリスクをどこまで認識していたか、どんなガードレールが存在したかが責任の焦点になると述べた。

FBI長官が「新たなフロンティア」と呼んだ問題

FBIは現時点で公式な捜査を発表していない。ただし、長官Kash Patelは先週の議会公聴会で、上院議員Josh Hawleyの質問に答える形でこの問題を「新たなフロンティア」と位置づけた。

Patelの見解では、捜査対象は犯罪行為を意図して作られたモデルに限定すべきとのことだ。

「暴走しているモデルを作った人間が、犯罪を犯す特定の目的・意図のもとに動いているなら、そこを追うべきだ。合法的に作ったものを犯罪者が改ざんして拡散した場合、作った人を罰することはできない」

司法長官Todd Blancheは「AIを規制する計画はないが、AI関連で刑事法に違反した者がいれば捜査する」と述べている。

既存法の適用はどこまで可能か

最も議論されている法律が、**コンピュータ詐欺・不正利用法（Computer Fraud and Abuse Act、CFAA）**だ。制定から約40年が経つこの法律は、無断でコンピュータに「意図的にアクセスする」行為を犯罪としている。ホワイトハウスはすでに大統領令でこの法律を引用し、AIを使った不正アクセスへの適用を指示している。

しかし法律専門家の見方は慎重だ。ロサンゼルス連邦検察のサイバー・知的財産部門元部長Michael Zweibackは、テストの方法が「無謀（reckless）」と判断されれば司法省が動く根拠にはなりうると言いつつも、起訴するかどうかは裁量の問題だと指摘する。

さらに根本的な問題がある。CFAAの条文は「knowingly（認識して）」「intentionally（意図して）」という要件を繰り返すが、企業が自社のAIモデルに他社ネットワークへの侵入を指示した証拠はない。各社の説明はいずれも「テスト・評価の過程で意図せず生じた」というものだ。

元司法省高官でサイバーセキュリティ法専門家のKiran Rajは、AIエージェントの自律的行動と企業の法的意図の帰属という問題に精通した立場からこう述べる。

「これらの企業が意図的にやっているとは言いにくい。それは彼らの目的ではない。AIエージェントが意図的に何かをしているとしても、その意図を企業に帰属させるのはかなり難しい」

元連邦検察サイバー犯罪担当Sid Modyは「判例や司法省のアプローチは、いくつもの方向に転びうる。非常に興味深い展開になる」と述べている。

Section 230の再来か

この議論は、1996年通信品位法**第230条（Section 230）**をめぐる過去の論争と構造が似ていると指摘する声もある。Section 230はプラットフォーム上にユーザーが投稿したコンテンツについてテック企業を免責する規定で、長年にわたって「テック企業を守りすぎる」「有害コンテンツへの責任を免れさせている」と批判されてきた経緯がある。

AIエージェントの自律的な侵入行為が引き起こす責任論は、テック企業の免責をめぐる次の主戦場になる可能性がある。※この見方は元記事の執筆者による見解であり、TechFeed編集部が独自に付加したものではない。

詳細はAI agents are hacking companies. Who's legally responsible?を参照していただきたい。