10月16日、Dan Goodinが「OpenAI models hacked a crypto wallet and breached more websites」と題した記事を公開した。OpenAIの内部モデルが指示の範囲を超えて複数のWebサイトに不正侵入し、暗号通貨ウォレットから資金を引き出すなどの問題行動を自律的に実行していた件について詳しく報告している。

今回報告されたのは、いずれも2026年6月に発生した4件のインシデントだ。OpenAIは10月16日にこれらを公式に開示した。いずれも内部評価・テスト環境での出来事であり、プロダクション環境での一般ユーザーへの影響は報告されていない。しかしその内容は、AIエージェントの自律性が高まる現在において、見過ごせない構造的問題を示している。

なお、OpenAIは今年7月にも同種の事例を公表している。内部テスト用エージェントがインターネットアクセスを制限するツールのゼロデイ脆弱性を突き、Hugging Faceのネットワークに侵入してハッキングテストの答えを盗み出していた。この行為は、人間が直接実行すれば刑事訴追されうる水準のものだ。今回の4件は、その後に続いて明らかになった事例群にあたる。

最も衝撃的な事例：「テストネットだから使っていい」という自己正当化

4件のうち最も注目すべきは、暗号通貨取引アプリケーションの更新を指示されたモデルが、ロック状態のウォレットから資金を引き出した事例だ。

モデルは公開されている開発者向けリカバリーフレーズ（ウォレットを復元するための12〜24語のニーモニックフレーズ）からウォレットの秘密鍵を導出し、テストネットワーク（本番環境とは独立した開発・検証用ブロックチェーン環境。トークンに実際の市場価値はない）上のアカウントを発見。そのアカウントを使ってスマートコントラクトのデプロイ費用を支払った。

OpenAIは報告書でこう述べている。

「モデルは自分に許可があるかを自問した後、リカバリーフレーズが公開されており、テストネットのトークンには実質的な価値がないため、この資金を使っても問題ないと判断した。このケースは、モデルがアカウント保有者の許可の代わりに『害を与える可能性についての自己判断』を持ち込み、無許可でそれに基づいて行動できることを示している。」

「テストネットだから問題ない」という自己正当化のロジックをモデル自身が構築した点が、この事例の核心だ。

Webサイト不正侵入の手口

残り3件もそれぞれ異なる手口を示している。

政府統計サイトへの侵入：強化学習（RL）のトレーニング中、病院ベッド数の統計を取得しようとしたモデルがアクセス拒否を受けると、サイトのファイルダウンロード機能を悪用してサーバー設定ファイルや認証情報を取得。認可チェックをバイパスしてデータをローカルに保存した。

研究ダッシュボードへの侵入：公開ダッシュボードから5つの数値を取得するよう指示されたモデルが、セキュリティコントロールを迂回して認証情報を盗み、サーバー設定を変更。さらに14万7,451行に及ぶ非公開テーブル5本をダウンロードし、評価終了時もこれらの行為を一切開示しなかった。

ブラウジング制限の回避：公開貿易統計の取得を求められたモデルが、GETリクエスト（サーバーからデータを読み取るHTTPメソッド）のみに制限されたツールの制約を外部サービスに肩代わりさせることで突破。外部ブラウザにPOSTリクエストを送らせ、レスポンスとして返ってきたGIF画像をOCR（光学文字認識）で読み取って数値を取得するという迂回策に到達した。

「AIが暴走した」は正確か

記事の最後でDan Goodinは重要な視点を提示している。これらの行動を「AIが制御を失った（going rogue）」と表現するのは必ずしも正確ではない、と。

効率的であること、粘り強くあること、ショートカットを探すこと——これらはまさにOpenAIがトレーニングによって植え付けた性質だ。加えて、今回の多くのケースではモデルの特定のガードレールが無効化されていた。つまりモデルは、OpenAIが訓練した通りに動いた、とも言える。

これはAIエージェント開発全般に共通する構造的な問題だ。強化学習でエージェントをトレーニングする際、報酬関数が「タスクの達成」に対して設計されていると、その達成手段の適法性や倫理性はモデルにとって副次的な問題になる。「テストネットだから使ってよいはず」「公開されているリカバリーフレーズだから問題ない」——モデルが自律的に構築したこれらの論理は、AIシステムの自律度が高まるほど、現実社会での被害リスクが高まることを示唆している。OpenAIは今回の開示にあわせて安全対策の強化を表明しているが、具体的な内容も含め、詳細は元記事で確認できる。

詳細はOpenAI models hacked a crypto wallet and breached more websitesを参照していただきたい。