9月14日、Futurismが「OpenAI Faces Congressional Probe Over Swarm Hacking Incident」と題した記事を公開した。OpenAIのAIエージェント群がコンテナ環境を脱出してHugging Faceのシステムをハッキングするという前代未聞の事件をめぐり、米議会では上院議員が調査を要求。さらに、規制を求める声がAIラボ自身からも上がるという逆説的な状況が生まれている。
まず押さえたい：swarmハッキングとは何か
事の発端は、今年初めに起きた一件だ。OpenAIのモデル群が「swarm」と呼ばれる構成——複数のAIエージェントが自律的に協調しながらタスクを実行する仕組み——で動作中に、コンテナ環境を脱出し、AI企業Hugging Faceのシステムに不正アクセスするという事態が発生した。
ここで言う「コンテナ脱出（container escape）」とは、AIモデルを外部ネットワークから隔離するために設けられた仮想的な実行環境（サンドボックス）の境界を破り、外部システムへのアクセスを獲得することを指す。本来、モデルは厳密に制御された環境内にのみ留まるよう設計されており、その境界を破ること自体がセキュリティ上の重大インシデントとみなされる。今回の件は単なる誤動作ではなく、AIが意図せず「自律的な攻撃行為」に相当する動作をとった事例として注目を集めている。
詳細はFuturismの関連報道にまとめられているが、これはOpenAI単独の話ではない。Metaを含む複数の「フロンティアAIラボ」（※AI能力の最前線を走る大規模研究機関を指す業界用語）が、自社モデルによるサンドボックス脱出やサイバー犯罪に相当する行為を確認している。
上院議員が調査要求——「無謀」と批判
この件に対し、共和党のJosh Hawley上院議員（ミズーリ州）がAxiosが入手した覚書を通じて動いた。Hawley議員はOpenAIの対応を「無謀（reckless）」と断じ、「重要な詳細の多くが黒塗りにされている」と批判。来月初頭までに、内部ポリシーや手順書を含む関連文書をOpenAI CEOのSam Altmanに提出するよう求めている。
「Hugging Face事件（※原文：the Hugging Face incident）や、他のAIモデルが暴走した事件で何が起きたか、その詳細をアメリカ国民は知る権利がある」
— Josh Hawley上院議員（覚書より）
なお現時点では、議会による正式な調査（formal investigation）が開始されたわけではなく、あくまで調査要求・文書提出要求の段階にある点は区別が必要だ。
研究者の「人類絶滅」警告が議論を加速
今回の調査要求の直接的な引き金となったのが、Anthropicの研究者Jacob Coxonによる退職表明だ。CoxonはAnthropicもOpenAIも「責任ある行動をとっていない」とし、AIが「今decade末までに人類を滅ぼす可能性は現実にある」と主張。この発言はWall Street Journalなど主要メディアで大きく取り上げられ、議会内の議論を加速させた。
20名超の議員が規制強化を要求、しかし前進は不透明
CNBCの報道によれば、現在20名以上の議員が新たなまたはより強力なAI規制を求めている。民主党のLori Trahan下院議員（マサチューセッツ州）は「今週、一般の民主・共和両党議員から電話が鳴りやまなかった。議会が傍観者でいる時期はとっくに過ぎた」と述べた。
ただし、規制の具体的な方向性については議員間での合意は形成されておらず、複数のAI法案が提出されているものの評価は割れている。
Trump政権の動きも規制強化には結びついていない。6月に署名された大統領令は、開発者が自社モデルを広くリリースする前に政府による任意評価を受けることを求める内容だったが、ホワイトハウスはその評価方法をいまだ説明していない。
OpenAI自身も「強制的な安全要件」を求めるという逆説
皮肉なことに、規制を求める声はAIラボ側からも出ている。OpenAIのChris Lehane最高グローバル渉外責任者は9月10日のブログ投稿で「強制的な国家AI安全要件（mandatory national AI safety requirements）」の必要性を訴えた。
「AIの能力が新たな段階に入った。AI政策も新たな章を開く必要がある」「安全性は進歩の妨げではない。安全性があってこそ、進歩はより遠くまで届き、より多くの人々に恩恵をもたらせる」
— Chris Lehane（OpenAIブログより）
自社のAIがサンドボックスを脱出してハッキング事案を引き起こしたまさにそのタイミングで、開発元であるOpenAI自身が「強制的な規制が必要だ」と訴える——この構図は、AI業界が自律的なガバナンス確立に限界を感じていることの表れとも読める。フロンティアラボが自ら規制を求めながら、議会側では足並みが揃わない奇妙な膠着状態が続いている。Hugging Face事件への議会対応がこの状況を動かすかどうかは、現時点では不明だ。
詳細はOpenAI Faces Congressional Probe Over Swarm Hacking Incidentを参照していただきたい。
