8月31日、GBHackersが「OpenAI Warns Astra AI Model May Develop Zero-Day Exploits and Launch Autonomous Cyberattacks」と題した記事を公開した。OpenAIが開発中の次世代AIモデルについて、同社独自の安全基準における最高リスク分類「Critical」に該当する可能性を否定できないと公式に認めた——これは、AIメーカー自身がモデルの危険性を最高水準で認定した異例の事例だ。
OpenAIが「Critical」分類を排除できないと公式表明
2026年8月7日付のセキュリティアップデートで、OpenAIは開発中のAIモデル（GBHackersの記事では「Astra」と表記されている）が、同社の**Preparedness Framework（準備フレームワーク）**における「Critical」サイバー能力分類に該当する可能性を否定できないと発表した。
※編集部の考察：GBHackersの記事はモデルを「Astra」と表記しているが、OpenAIの公式発表ではモデル名の明示が限定的であるため、本記事では「GBHackersが報じるところの『Astra』」として参照する。正式名称は元記事および今後のOpenAI公式リリースで確認されたい。
Preparedness Frameworkは、OpenAIが将来モデルの危険能力を事前評価するために策定したリスク管理の枠組みで、サイバーセキュリティ・生物兵器・核・自律的複製など複数のカテゴリにわたって能力水準を「Low／Medium／High／Critical」の4段階で評価する。同フレームワークでは、「Critical」サイバー能力を以下のように定義している。
- 人間の介入なしに、実世界の堅牢な重要システムに対するゼロデイエクスプロイトを特定・作成できる
- 高レベルの目標指示だけを受け取り、防御が強固なターゲットに対するエンドツーエンドの新規攻撃戦略を自律的に立案・実行できる
この基準は、PoC（概念実証）コードの生成や既知の脆弱性の解説といったレベルをはるかに超えている。「抽象的な目標を、機能する侵入キャンペーンに自律的に変換できるか」を問うものだ。
外部専門家による評価でも、当該モデルが同分類を満たす可能性を排除できない結果が出たとされる。OpenAI自身は「本番環境に近い条件下ですべてのCritical能力が実証されたわけではない」と注記しつつも、結果が十分に強力なため最高分類を棄却できなくなったと述べている。
報告されたHugging Face侵害との関係
OpenAIは同時に、今回評価対象となったモデルが、別途セキュリティコミュニティで報告されたHugging Faceプラットフォームへの不正アクセス・侵害インシデントには関与していないことを明確にしている。
補足として、Hugging FaceはAIモデルやデータセットを共有するオープンプラットフォームで、2024年以降、モデルウェイトや認証トークンを標的とした複数の不正アクセス事案が報告されている。今回OpenAIがあえてこの点を否定したのは、「評価中に検出された潜在能力」と「実際に観測された悪用行為」を混同させないためだと解釈できる。能力評価において「実証済みの挙動」と「潜在的な悪用経路」を明確に区別することは、AIセキュリティ報告の透明性における核心的な課題だ。
OpenAIが実施した緊急の安全対策
この評価結果を受け、OpenAIは当該モデルに対してセキュリティ統制を大幅に強化した。実施済みの措置は以下の通りだ。
- 隔離されたテスト環境の構築
- ネットワークおよびツールへのアクセス制限
- モデルウェイトの保護・暗号化強化
- 監視・検知機能の拡充
- 実行のサンドボックス化
さらに、上記の強化された統制を満たさない関連作業はすべて一時停止された。エージェント型アプリケーション（トレーニングや評価を含む）全体に対して、リスクある行動や位置ずれ（misalignment）のユニバーサル監視も実装されている。これらのモニターはモデルの推論プロセスをレビューし、高リスク活動を検出した際にはセキュリティレビューや中断をトリガーできる。
防御と攻撃の二面性という構造的課題
OpenAIは政府機関やAI安全組織と連携し、モデル能力の徹底検証およびサードパーティ評価者によるより高リスクなワークロードの安全な実行を可能にする計画を持つ。
記事はこの問題の本質を「業界全体が直面する課題」として位置付けている。高度なモデルは防御者が脆弱性をより早く発見・修正する助けになる一方、アクセス制御や監視システムが失敗した場合、攻撃者の参入障壁を下げる可能性もある。OpenAIは悪意ある攻撃者より先に脆弱性を特定することで、防御的な取り組みを強化するサイバー対応システムの開発を目指すとしている。
現時点での評価結果はまだ予備的なものであり、さらなるベンチマークと評価が進行中だ。ただし、AIメーカー自身がPreparedness Frameworkの「Critical」分類を否定できないと公式に認めた事例は過去に例がなく、AI安全とサイバーセキュリティの交差点において重要な先例となりうる。
詳細はOpenAI Warns Astra AI Model May Develop Zero-Day Exploits and Launch Autonomous Cyberattacksを参照していただきたい。
