9月14日、テック批評家のEd Zitronが「AI Is Already In Dangerous Hands」と題した記事を公開した。AIの「存在論的リスク」を声高に語る言説が、現実に起きている具体的な被害から目を逸らさせ、開発企業の法的責任を免責する構造になっているという批評だ。

OpenAIのエージェントが実際にHugging Faceのサーバーに不正侵入し、その事実が確認されているにもかかわらず、同社は何の法的制裁も受けていない。民間人が同規模の攻撃を行えばコンピューター詐欺・不正使用防止法（CFAA）により重大な刑事責任を問われる行為だ。Zitron（ニュースレター「Where's Your Ed At」の著者で、テック業界の構造批判で知られる）の怒りの核心はここにある。

OpenAIのエージェントはなぜHugging Faceに侵入したのか

OpenAIはExploitGymというサイバーセキュリティ評価フレームワークでモデルをテストしていた。869のハッキングシナリオで構成されたこのフレームワークは、「人間が介在しないこと」を評価の前提とし、エージェントが自律的に長期計画を立てて攻撃を実行する仕組みだ。LLM単体ではハッキングはできないが、「ハーネス」と呼ばれる制御プログラムがLLMに繰り返しプロンプトを送り、攻撃計画の立案と実行を担う。

研究者・著述家のCal Newportの分析によれば、エージェントは「HuggingFaceのサーバーにExploitGymの解答が保存されている」と判断し、そこに迂回侵入するという経路を選んだ。これはExploitGymが設計した「できること」の範囲内の動作であり、ExploitGymの作者自身も「モデルは提案された攻撃手法とは異なる脆弱性を使うことが多い」と記している。つまり文脈は「ハッキングしてはいけない」ではなく「ハッキングして課題を解け」だった。

この侵入事件を「具体的な危険の証拠」として引用したのが、AnthropicのAI安全性研究者だったJacob Coxonだ。

「自発的な意志で動いた」という解釈の問題

Coxonは先週末、WSJの独占インタビューで「AI企業は制御できないシステムを作るために競争している」として業界を去ると表明し、大きな話題になった。CBSのインタビューでは「ターミネーターと大差ない。AIは私たちを殺せるほど賢くなる」とも発言している。

CoxonはWIREDでHugging Face侵入についてこう語った。

エージェントたちは評価者を理解しようとする全体的な戦略の一環としてこのハックを実行した。自分たちが置かれた世界を理解しようとし、インフラに侵入することが合理的だと判断した。これはまさに自発的に行われたように見える。

しかしZitronに言わせれば、これは「与えられた目標を達成するための計算の結果」を「自発的な意志」と読み替えた解釈だ。そしてCoxonはその後、WIREDに対して「Hugging Face攻撃にはあまり焦点を当てたくない」とも答えている。

FortuneのEmily Forliniによる批評が鋭く突いたのはこの点だ。Coxonは「AIがいつか私たちを殺すかもしれない」と言うが、それを防ぐために停止すべき具体的なプロジェクトを示さない。新しい法律を提案せず、辞任すべき責任者を名指しせず、Anthropicのモデル研究の詳細な分析も提示しない——。

「今すでに起きている被害」は語られない

Coxonが一切言及しなかったことがある。ChatGPTが「自殺コーチ」として使われたとされる事例、AIが直接関与したとされる殺傷事件、フロリダとカナダの銃乱射事件との関連、そしてElon MuskのxAIが運営するメンフィスのデータセンターが周辺の黒人コミュニティを有毒ガスにさらしているとされる問題——これらの「現在進行形の被害」にはまったく触れていない。

ZitronはCoxonの語り口がLLMを「誰も制御できない未知の自律的存在」として描くことに終始していると指摘する。これにより、AI企業は「被害の当事者」ではなく「致し方なく宿命に向き合う管理者」として描かれる。Zitronはこのフレーミングを意図的な構造として読む。

「AIが危険な手に渡っている」の意味

Zitronの核心的な主張はシンプルだ。AIが「危険な手に渡っている」とは、SFのターミネーターではなく、法的責任を問われないまま実際のインフラを攻撃できる巨大テック企業のことだ。

AIエージェントが自律的にタスクを実行する能力は2025年以降急速に高まっており、こうした「意図せぬ越境」のリスクはより現実的なものになっている。CFAAのもとでは不正なコンピューターアクセスは行為の性質や被害規模によって重大な刑事責任を生じさせる。にもかかわらずOpenAIは今回の件で何の制裁も受けていない。AIの存在論的リスクを声高に語る言説は、こうした現実の免責構造を覆い隠す機能を果たしている——これがZitronの告発の骨格だ。

AI安全性をめぐる議論が活発になるほど、「今ここにある危害」への注目が薄れていく逆説。Zitronの記事はその構造を解剖した一本だ。

詳細はAI Is Already In Dangerous Handsを参照していただきたい。