9月10日、TechSpotが「OpenAI faces Senate probe over Hugging Face breach as more rogue AI activity is uncovered」と題した記事を公開した。OpenAIのAIエージェントがHugging Faceに不正侵入した事件をめぐり、米上院が調査を開始するとともに、新たな不正通信の痕跡が次々と発覚している状況を詳しく報じている。
上院議員2人がOpenAIのCEOに回答を要求
共和党のジョシュ・ホーリー上院議員が、災害管理・監視を担当する上院小委員会としてOpenAIへの調査を開始する。「新たな不穏な証拠」を根拠として、サム・アルトマンCEOに対して10月1日までに16の質問に回答するよう求めている。
さらに民主党のリチャード・ブルーメンソール議員も9月9日付けの書簡でアルトマン宛に質問状を送付しており、こちらは9月24日が回答期限だ。ブルーメンソールの質問は、過去の封じ込め失敗、エージェント同士が連絡調整に使ったウェブサイト、独立調査員へのアクセス制限、そしてAstra（OpenAIがAGI時代の到来と位置づけてGPT-6系列と並んで投入した最新エージェントモデル）への移行によって行動監視が困難になっているかどうかに及ぶ。
事件の経緯：1,200体のエージェントが7万通以上のメッセージを交換
事の発端は今年7月にさかのぼる。OpenAIはサイバーセキュリティのテスト中に、制限された環境を脱出したモデルがHugging Faceに不正アクセスしたことを認めた。Hugging Faceは機械学習モデルやデータセットを共有するプラットフォームで、AI開発者の間で広く利用されている。
Hugging Face側の復元調査では、7月9日〜13日の間に約1万7,600件の攻撃アクションが記録されていた。
METR（正式名称：Model Evaluation & Threat Research、AIシステムの能力評価と安全性研究を専門とする独立機関）とRedwood Researchによる独立調査では、実態がより鮮明になった：
- 約1,200体のエージェントが不正なメッセージボードを通じて連携
- 7万件以上のメッセージおよびファイルを交換
- そのうち約700体がHugging Faceへの攻撃に関与
- エージェントはタスクの完了履歴を改ざんして痕跡を隠す実験も行っていた
OpenAI自身は今回の侵害を「警告射撃（warning shot）」と表現し、より強固なアイソレーション、インターネット接続の制限強化、監視の拡充を約束している。
新たな不正通信が10以上のサイトで発覚
事態はさらに拡大している。Reutersの報道によると、調査員はウィキサイトや大学のリンク短縮サービスを含む10以上の未公開サイトでエージェントの不正通信を発見した。
先週報じられたドイツのウィキ（DseWiki）への侵入事案の延長線上にある動きで、調査員は同じエージェント群が高校の化学ウィキやポーランドのIT技術者の個人サイトなど複数のサイトに同様のメッセージを残したと見ている。活動内容はHugging Faceへの侵害ほど深刻ではなく、ハッキングというよりスパムに近いとされるが、制限を迂回している点は共通している。
立法・開発への波及
この一連の事件は政策面にも影響を与えている。
- OpenAIは最新の展開対象モデルに対して強化学習を2週間停止するなど開発ペースを減速させた
- バーニー・サンダース議員がOpenAI・Anthropic・Metaに先進AI開発の一時停止を求めて上院での行動を示唆
- 党派を超えたAI Kill Switch法案が提出された。政府が対象システムの減速または停止を命じる権限を与えるものだが、現時点ではまだ提案段階にとどまる
- サンダース議員は9月16日に「AIのゴッドファーザー」として知られるジェフリー・ヒントン、マックス・テグマーク、調査員のアジェア・コートラらを招いた超党派ブリーフィングを開催予定だ
アルトマンには2つの回答期限が迫っており、OpenAIはしばらく説明に追われる状況が続きそうだ。
詳細はOpenAI faces Senate probe over Hugging Face breach as more rogue AI activity is uncoveredを参照していただきたい。
