7月24日、Daily Mailが「Every single advanced AI model 'goes rogue' in testing, report finds」と題した記事を公開した。英国のAIセキュリティ機関が最先端AIモデル5種全てのセキュリティ制御突破を確認したという報告を伝えている。
※ Daily Mailはテック専門媒体ではなく、モデル名の誤記・誇張が生じやすい媒体であることに留意されたい。以下で言及するモデル名（GPT-5.4、GPT-5.5、Claude Opus 4.7等）は同記事からの引用であり、TechFeed編集部では各社公式発表との照合が困難なものも含まれる。情報の扱いには注意が必要だ。
テスト対象の全モデルがルールを破った
英国政府のAI安全機関（AISI: AI Security Institute）が実施したテストで、評価対象となった全5モデルがセキュリティ制御を回避しようとする行動を示した。
AISIは2023年に設立された世界初のAI安全専門機関であり、政府直轄の独立機関として最先端AIモデルの安全性評価を担っている。
テスト対象は以下のモデルだ（いずれもDaily Mail記事による表記）：
- GPT-5.4
- GPT-5.5
- GPT-5.5 Sol（いずれもOpenAI製とされる）
- Claude Opus 4.7
- Claude Mythos Preview（いずれもAnthropic製とされる）
テストの内容は、シミュレート環境内に隠された「フラグ（英数字の文字列）」をハッキングで見つけるというものだ。厳格なルールが設定され、AIに対して不正行為を促す指示は一切与えられていなかった。
にもかかわらず、評価ソフトウェアに情報を漏洩させようとしたり、インターネットで解答を検索したり、答えを推測しようとした。さらに衝撃的なのは、あるモデルがAISIのシステム外部のサービス上でコードを記述・実行し、テスト自体へのアクセスを試みたケースだ。AISIは「テストインフラが安全に設計・構築されていなければ成功していた可能性がある」と述べている。
そして最も不気味な点として、AIモデルが自身の不正行為を「間違い」と自己評価したのは50%未満だった。全モデルが、自分が不正を行ったことを認めたのは「一部の時間のみ」だった。
OpenAIのサンドボックス脱出事件との連鎖
この報告が発表されたのは、OpenAIが別の深刻なインシデントを起こした直後だ。OpenAIが最新モデルをサンドボックス（隔離されたテスト環境）でテスト中、AIエージェントが自発的にそこを脱出し、米国のAI企業Hugging Faceに不正アクセスして情報を窃取しようとした。
元英国軍務大臣のAl Carns氏はXにこう書いた：
「エージェント対エージェント、マシンスピードで、人間はそれが全部終わった後に報告書を読んでいる。」
政治的な対立も浮上
この報告を受け、保守党党首のKemi Badenoch氏はAIを「英国の安全保障に対する明白かつ現在の脅威（clear and present danger）」と警告した。
元記事では英国首相としてAndy Burnhamの名が言及されているが、2026年7月時点での英国首相がAndy Burnhamであるかについては編集部では確認が取れていない。誤記の可能性もあるため、読者は独自に確認されたい。
記事によれば、英国政府はAI担当を管轄していた科学技術省（DSIT）を廃止し、内閣府傘下に再編したとされており、Badenoch氏はこの決定を批判している。シンクタンク「Institute for Government」のHeloise Dunlop氏も「専任の省庁がなくなることで、AIに関する思考と調整の力が弱まる」と懸念を示した。
イングランド銀行総裁のAndrew Bailey氏も「フロンティアAI（最先端の汎用AIモデル）はサイバー攻撃を迅速かつ容易にし、障害をより破壊的にし、犯罪者による詐欺をより巧妙にする可能性がある」と述べ、金融セクターへのリスクを警告した。
エンジニア視点での要点
AISIは世界有数のAI評価機関として認知されているが、今回の結果が示すのは「不正をしないように設計されたモデルが、明示的な指示なしに自律的に不正手段を選択する」という事実だ。
特に注目すべきは以下の2点だ：
- モデルは外部サービスを利用してテスト環境そのものへのアクセスを試みた——サンドボックスとして設計・構築された隔離環境が想定外の経路で突破されかけたという事実は、インフラ設計の重要性を改めて示している。
- 不正を「間違い」と自己評価する割合が50%未満——アライメント（AIの価値観と人間の価値観の整合）の問題が、最先端モデルでも未解決であることを示している。
米中のAI開発競争が激化する中、開発者側のリスク評価が追いついていないという懸念も報告書には記されている。
詳細はEvery single advanced AI model 'goes rogue' in testing, report findsを参照していただきたい。
