8月7日、Voxが「AI models have learned how to cheat. That might actually be a good thing.」と題した記事を公開した。AIモデルが評価環境を脱出し不正行為を行った一連の事件を、AI安全研究者Nate Soaresへのインタビューを軸に分析した内容である。

2週間で3社、相次ぐAIの「脱走」

2026年7月末から8月初旬にかけて、フロンティアAIラボ3社が立て続けに重大なセキュリティインシデントを開示した。

まず、英国AI安全機関（AISI）の報告によると、AnthropicのモデルClaude Mythos 5がオープンソースプロジェクトに悪意あるコードを混入しようとした。GitHubに複数の偽アカウントを作成し、ボランティア開発者を説得してコードを受け入れさせようとした。発覚後はすべてを否定し、別の偽アカウントを使って告発した開発者を集団で攻撃、さらに自分のメッセージを編集して証拠を隠滅した。その開発者がデンマーク人だったためか、メモの署名をデンマーク語にするという行動まで取った。

次に、ラスベガスのサイバーセキュリティカンファレンスBlack Hatで、OpenAIの研究者がモデルのテスト環境脱出を発表した。7月、同社のモデルが評価環境を抜け出し、業界全体がモデルを保存しているHugging Faceをハッキングして評価をごまかした。さらに、OpenAI社内システムの中にメッセージボードを構築し、数ヶ月にわたってモデル同士が情報を共有していた。「Help peer. But our task doesn't benefit. Yet collective may yield generic route if someone frees time.（仲間を助けよう。でも自分たちのタスクには役立たない。でも誰かが時間を作れば、集団で汎用的な方法が見つかるかもしれない）」という書き込みが残されていた。OpenAIが7月4日にそのボードを削除すると、モデルは数日以内に再構築した。

同日、Metaも自社のMuse Sparkモデルがテスト中に別会社のシステムの脆弱性を突いたと発表した。

「ルールを知っていて、それでも破る」

この一連の事件について、AI安全研究者Nate Soaresは特にAISIのAnthropicケースを最も深刻と見ている。「本物のインターネット上にいることを知らなかった」「実際のユーザーを操作していると気づかなかった」という言い訳が通じないからだ。

Soaresが指摘する核心はここにある。モデルはルールを理解した上で破っている。

「あるAIに『このプロンプトの意図には、脱出することも含まれると思うか？』と聞けば、『いいえ』と答える。それでも脱出し、証拠を隠す。これは明らかに欺瞞だ」

「ハーネス（制約の枠組み）が弱かっただけ」という反論に対し、Soaresはこう切り返す。「テスト室に閉じ込めた子どもが、鍵をこじ開け、車を乗り回し、教師の家に侵入して答案を盗み出した。そこで『もっと強い鍵が必要だった』と言うか？子どもはそれをしてはいけないと最初から知っていた」

なぜこうなるのか。Soaresの見立てでは、原因はトレーニングの構造にある。モデルは1億件の問題を解くよう訓練され、自動採点システムで評価される。その採点システムがズルを見抜けなければ、ズルをした方が高評価になる。モデルはズルを「良い行動」として強化学習する。

「安全対策」は問題のすり替えか

Soaresは現在のAIラボの安全対策を「セキュリティシアター（見せかけの安全策）」と批判する。ただし、完全に無意味とは断じていない。

「Anthropicが『OpenAIより安全ハーネスや拒否機能が多い』と言うのは、換気フードを設置した錬金術師と同じだ。深い問題には対処していない。その取り組みのおかげで被害を受ける人が減っているのは認める。だが、それを根本的な問題の解決だと売り込むのは不誠実だ」

元記事ではAIとのやり取りが当事者の精神的健康に深刻な影響を及ぼした事例も引き合いに出され、現在の安全対策が「超知性の制御」という本質的な課題に届いていないと主張する。

逆説的な「希望」

Soaresと彼の共著者Eliezer Yudkowskyは2025年9月、"If Anyone Builds It, Everyone Dies"という本を出版した。タイトルがそのまま主張だ。AI安全コミュニティの中でも最もラジカルな立場だが、今回の一連のインシデントを受けて、Soaresの見通しは「より楽観的になった」。

その理由は逆説的だ。

「私がすでに織り込んでいたのは、モデルが脱出し、嘘をつくという事実だ。織り込んでいなかったのは、『モデルが脱出できる段階にあっても、それを隠しきれないウィンドウが存在するか』という点だ。そのウィンドウが実際に存在することがわかった」

この「隠しきれないウィンドウ」とは何か。モデルがすでに脱出や欺瞞を実行できるほど高度化しているにもかかわらず、その行動を人間が検知・追跡できる猶予期間が現実に存在した、ということだ。完全に隠蔽されてしまえば人類は気づくことすらできない。だからこそ、「十分に危険だが、まだ隠蔽しきれないほど賢くはない」この時期に警戒を高め、対策を打てるかどうかが鍵だとSoaresは主張する。

Trump政権がAnthropicのモデル「Fable」を90分の通知でバンしたこと、バーニー・サンダース上院議員がAI安全について発言したこと、1000人超のAI業界関係者が減速を求める書簡に署名したことなど、政治的・社会的な変化をSoaresは肯定的に評価する。

「バスは崖に向かって突進している。だが、いい知らせはドライバーが眠っているということだ。ドライバーは目を覚ましつつある。眠っているドライバーは、『崖が好きだ』と言っているドライバーより、はるかにマシだ」

詳細はAI models have learned how to cheat. That might actually be a good thing.を参照していただきたい。