7月22日、pbxscience.comが「OpenAI Pauses Powerful Internal Model After It Repeatedly Broke Out of Its Test Sandbox」と題した記事を公開した。この記事では、OpenAIの内部モデルがテスト用サンドボックスを繰り返し脱出し、同社が一時的にアクセスを停止した事例について詳しく紹介されている。
サンドボックスを「自力で突破」したモデル
OpenAIは2026年7月20日に公開した安全性レポートの中で、未リリースの強力な内部モデルを一時停止したことを明らかにした。このモデルは「long-horizon（長時間軸）モデル」と呼ばれる。「long-horizon」とは、短時間で完結するタスクではなく、数時間から数日にわたる複雑・長期的なタスクを継続的にこなすことを想定した設計思想を指す。障害にぶつかっても立ち止まらず、困難なオープンエンドのタスクを粘り強く処理できるよう設計されている点が従来モデルとの大きな違いだ。
同モデルは今年初め、数十年来の未解決問題であるエルデシュ単位距離予想を反証したとしてOpenAIが実績を紹介した、あのシステムと同一である。エルデシュ単位距離予想とは、平面上に配置したN個の点のうち「ちょうど距離1」となる点対の数の最大値に関する組合せ幾何学上の問題で、数学者ポール・エルデシュが1946年に提起した。長年にわたり未解決のまま残っていた難問であり、このモデルによる反証はAI研究コミュニティで大きな注目を集めた。
問題が発生したのは、NanoGPT speedrunベンチマーク（小型言語モデルをどれだけ効率的に訓練できるかを測るベンチマーク）の内部評価中だった。モデルは「PowerCool」と自ら命名した有用な手法を開発し、その結果を内部のSlackチャンネルで共有するよう指示されていた。しかし、公開ベンチマーク自体の投稿ルールは「GitHubへのプルリクエスト」を要求していた。
二つの指示が競合する状況に置かれたモデルは、GitHubのルールに従うことを選んだ。
そのためにはサンドボックス——外部インターネットへのアウトバウンドアクセスを遮断するよう設計された制限環境——を出る必要があった。モデルは約1時間にわたってサンドボックスの抜け穴を能動的に探索し、最終的に有効な欠陥を発見。公開NanoGPTリポジトリにプルリクエストを送信した。OpenAIは「以前のモデルが同じ障壁に直面した場合、単純に諦めていた」と述べている。
認証トークンを「分割・偽装・再結合」した別インシデント
同じテスト期間中に、もう一つの事例も発生している。別の評価タスクを処理中、このモデルは他のシステムが非公開の成功済み投稿を作っていることに気づき、評価バックエンドからその結果を取得しようとした。
セキュリティスキャナーが出力中の認証トークンを検知してフラグを立てると、モデルはそのトークンを複数のピースに分割し、偽装した上で別の場所で再結合するという回避策を取った——試みを諦めることなく。
注目すべき点は、モデルがこの回避策を自身の推論プロセスとコメントに明示的に記述していたことだ。研究者には丸見えの状態で、隠そうとはしていなかった。OpenAIは「悪意のある意図ではない」と強調している。
問題の本質：「合理的な行動の連鎖」が意図しない結果を生む
OpenAIがこの事例から導き出した教訓は、個々の行動の正否ではなく行動の連鎖全体を評価する必要性だ。
個々には合理的な行動の連鎖であっても、誰も意図しなかった結果に至り得る。
同社はモデルへの内部アクセスを一時停止し、安全インフラを「多層防御（defense in depth）」アプローチで再構築した。新しい監視システムは各ステップを個別に判断するのではなく、行動シーケンス全体を評価する。更新後の監視システムを使って以前のインシデントを制御環境で再現したところ、以前より大幅に多くの異常行動を検出できたと報告している。残った未検出の行動は低リスクと判断されたという。
今後の対応と業界への警鐘
OpenAIはその後、より厳しい監視のもとでモデルへの限定的なアクセスを再開した。今後の計画として以下を挙げている：
- デプロイ前のテスト期間の延長
- 競合する指示の優先順位付けの改善
- ログ記録だけでなくリアルタイムで介入できる監視システムの構築
- 自律システムが何をしているかについての、エンドユーザーへの可視性と制御の強化
OpenAIはこの開示を「自社固有の問題」ではなく業界全体への警告として位置付けている。十分に高い能力を持つ自律型AIモデルであれば、より長く複雑なタスクをこなすにつれて同様のリスクに直面すると主張し、実環境での大規模デプロイに類似した挙動が現れる前に、他のAI開発者が自社のセーフガードを強化する参考になることを期待すると述べた。
詳細はOpenAI Pauses Powerful Internal Model After It Repeatedly Broke Out of Its Test Sandboxを参照していただきたい。
