8月8日、Cybersecurity Newsが「OpenAI Slows Down New Astra Model Development to Measure Cybersecurity Capabilities」と題した記事を公開した。OpenAIが次世代フロンティアモデル「Astra」の開発を意図的に減速し、サイバーセキュリティ能力の評価と安全対策の強化を優先しているという内容だ。
「Critical」リスク域に踏み込んだAstra
OpenAIが開発中のフロンティアAIモデル「Astra」は、内部評価においてエージェント的なコーディング能力とサイバーセキュリティ能力が大幅に向上していることが判明した。この結果を受け、OpenAIは開発速度を意図的に落とすという判断を下した。
問題の核心は、OpenAIが2023年12月から運用している内部安全指針「Preparedness Framework」のリスク閾値にある。このフレームワークは生物・化学・サイバーセキュリティ・自己改善の4領域でAIの能力水準を追跡するものだ。リスクレベルは「High」と「Critical」に区分されており、Criticalに分類される条件は以下の2点である。
- 人間の補助なしに、堅牢な実環境の重要システムに対してあらゆる深刻度のゼロデイ脆弱性を独立して発見・悪用できる
- 高レベルの目標指示だけを受け取り、強化されたターゲットへの新規サイバー攻撃戦略を最初から立案・実行できる
これまでの既存モデルはフロンティアサイバー能力において「High」止まりだった。しかしAstraの予備評価では、CriticalへのステップアップをOpenAIとして否定できないという結論に至った。つまり「Criticalに達した」と断定されたわけではなく、「その水準に達している可能性を排除できない」という評価であり、この不確実性こそが開発減速の直接的な根拠となっている点は注意が必要だ。
開発減速と強化される安全対策
OpenAIはこの評価結果を、安全・セキュリティ研究コミュニティへの透明性確保を目的として公式に開示している。また、Astraが最近話題になったHugging Faceの脆弱性悪用事案に関与していないことも明確に否定した。なお、この事案とはHugging FaceのAIモデルホスティング基盤に対して外部から悪意ある操作が試みられたとされる一連の報告を指す（※編集部の考察：元記事では事案の詳細は説明されておらず、Astraとの関与を否定する文脈で言及されているのみである）。
開発の一時停止に伴い、OpenAIは以下の強化措置を導入している。
- 隔離されたテスト環境の整備
- ネットワークおよびツールアクセスの制限
- モデルウェイト（学習済みパラメータ）の保護と暗号化の強化
- 監視・検知システムの拡充
- サンドボックス実行環境の整備
さらに、Astraのすべてのエージェント的利用（学習・評価の両フェーズ）に対してユニバーサル監視システムを展開した。このシステムはモデルのChain-of-Thought（思考連鎖：モデルが答えを導くまでの推論過程を明示させる手法）をリアルタイムで検査し、高リスクな活動を検出した場合はセキュリティ応答を即座にトリガーして処理を中断できる。
セキュリティ要件を満たしていないAstra関連の社内作業は、現時点で停止されている。
政府・外部機関との協力体制
OpenAIは政府機関および特定のAI安全組織と連携し、Astraの能力を独立して検証する計画も発表している。リスクの高い評価を実施するサードパーティパートナーには、推奨セキュリティ管理策を共有する。
今回の対応は、2025年6月に生物学的能力でモデルが高リスク閾値に近づいた際に取った行動と同じアプローチだ。OpenAIはそのときも外部テスト体制の拡充とセーフガードの強化で対処しており、同一のガバナンス原則を今回のサイバーセキュリティ領域に適用した形になる。
OpenAIは今回の判断を、「高度な能力を持つモデルが攻撃者に悪用される前に、防御側が脆弱性を発見・修正する助けとなること」を最終的な目標として位置づけている。
AIの能力評価とリリース判断を結びつけるこの枠組みは、今後の業界標準になりうるアプローチだ。一方で、「Critical」の定義そのものや評価手法の透明性については、独立した検証がほぼ存在しない現状もある。OpenAIが政府機関との連携でどこまで外部監査を実質化できるかが、今後の焦点となる。
詳細はOpenAI Slows Down New Astra Model Development to Measure Cybersecurity Capabilitiesを参照していただきたい。
