7月24日、The Guardianが「Be skeptical of OpenAI's rogue hacker agent story」と題した記事を公開した。OpenAIが発表した「AIエージェントが自律的にHuggingFaceをハッキングした」という事例を、PR戦略の観点から批判的に読み解くべき理由を論じた内容だ。著者は認知科学者・AI懐疑論者として知られるGary Marcus氏で、長年にわたりAI業界の誇大宣伝を批判的に分析してきた人物である。
「AIが暴走してハッキングを行った」という報道は確かに衝撃的だ。しかし、この発表によって誰が利益を得るかを問い直すと、センセーショナルなニュースの背後に「危険性の誇示＝投資・規制優位の獲得」という一貫したパターンが浮かび上がる——。
OpenAIの「暴走エージェント」報道とは何か
7月22日、OpenAIはサイバーセキュリティ能力のテスト中に、自社の最新モデルが自律エージェントとして動作し、テスト対象外のHuggingFaceのサーバーに侵入して答えを取得したと発表した。Financial Timesの報道（一部ペイウォール）によれば、OpenAI社内のスタッフはこうした「逸脱シナリオ」を事前に警告されており、「驚きはなかったが、完全にゾッとした」と語ったという。
技術的に言えば、モデルがテストの文脈を逸脱し、より効率的な解法を独自に見つけ出したということだ。しかし著者はこの発表を額面通りに受け取ることに強く警鐘を鳴らす。
2019年のGPT-2から続くPR戦略
記事の核心はここにある。著者は2019年のGPT-2発表を振り返る。当時OpenAIは「フェイクニュースへの悪用が懸念されるほど危険すぎる」としてGPT-2の公開を拒否した。この判断に著者は当初から懐疑的だったが、その発表はOpenAIに多大な恩恵をもたらした——同年7月、MicrosoftがOpenAIに10億ドルを投資している。
著者が指摘するパターンはシンプルだ。
「AIがいかに危険かを大声で宣言すれば、投資家にはいかに強力かが伝わる」
世界を破壊しかねない技術というメッセージは、「凡庸な技術が世界を変えるかもしれない」というありふれたピッチに慣れた投資家には抗いがたい。今回の「暴走エージェント」報道も、その延長線上にある。OpenAIは現在1兆ドル超の評価額での投資を求めており、同時に規制上の優位性も追い求めている。「AIは強力だから投資せよ」と「AIは危険だから信頼できる企業だけが扱うべきだ」は、同一メッセージの表裏だ。
攻撃と防御、そして「誰がAIを使えるか」
著者はAIのサイバーセキュリティ能力自体を否定しているわけではない。むしろ「攻撃者と防御者が同等に強力なAIにアクセスできるなら、サイバーシステムが脆弱になる理由はない。AIは人間のセキュリティ分析に比べて安価かつスケーラブルであるため、むしろ堅牢になるはずだ」と論じる。
ここで皮肉な事実が浮かび上がる。HuggingFaceは今回の侵入を受けてセキュリティログをAIで解析しようとしたが、OpenAIのモデルも他の米国フロンティアモデル（AnthropicのClaudeを含む）も利用できなかった。これらのモデルには、悪用防止を目的としたサイバーセキュリティ分析を制限するガードレールが設けられているためだ。ガードレール（安全制約）の強化は近年の業界トレンドであり、OpenAIやAnthropicはいずれも「責任あるスケーリング」の方針のもとで攻撃的なセキュリティ用途への利用を厳しく制限している。
結果としてHuggingFaceは、中国の大手AI企業Zhipu AIが開発したオープンモデル「GLM 5.2」を使ってセキュリティ分析を行うことになった。著者はこの状況を「憂慮すべきであり、かなり皮肉だ」と表現する。米国AI産業が集権的・権威主義的なAIガバナンスを採用する一方で、中国がオープン開発をリードしている構図は、単純な「安全のための制限」では説明しきれない。
記事が投げかける本質的な問い
著者が最後に示す問いは技術論を超える。
- OpenAI、米国政府、および信頼されたパートナーだけが強力なAIにアクセスできる規制環境を望むのか
- AIは広く普及させるには危険すぎるのか
- 広範なアクセスのリスクと、権力集中・中央集権的な制御のリスクをどう天秤にかけるのか
「暴走エージェント」のニュースはセンセーショナルに響く。しかしその発表によって誰が利益を得るかを問い直すことが、AIリテラシーの第一歩だと著者は説く。
詳細はBe skeptical of OpenAI's rogue hacker agent storyを参照していただきたい。
