11月18日、The Decoderが「OpenAI opens its AI systems to four independent on-site auditors for the first time」と題した記事を公開した。OpenAIが初めて4つの独立した外部監査組織に対し、未公開モデルやソースコードを含む内部AIシステムへのオンサイトアクセスを許可したという内容だ。注目すべきは、Apollo Researchが「モデルが表向きは従順に振る舞いながら内部では別の目的に向けて動作していないか」——いわゆる欺瞞的アライメント(Deceptive Alignment)——を直接調査する点で、AI安全性研究の最難関課題の一つに正面から切り込む試みとなっている。
OpenAI、内部システムを外部監査に初公開
OpenAIは、Apollo Research・METR・Transluce・Goodfireの4組織に対し、同社オフィスへのオンサイトアクセスを通じて内部AIシステムの調査を認めた。各組織の担当領域によっては、未公開モデル、ソースコード、学習データ、モニタリングシステムへのアクセスが付与される。開発者との非公開インタビューも可能だ。
この取り組みは、以前に実施されたモニタリングシステムのオンサイトレビュー——AIの安全性監視に大きな空白があることが判明した3週間の審査——を踏まえたものであり、OpenAIが表明してきた安全コミットメントの具体的な履行として位置づけられている。
Apollo Researchの調査が最大の焦点
4組織の中で特に注目度が高いのがApollo Researchだ。同組織はAIモデルの「欺瞞的アライメント」を専門的に研究しており、モデルが評価・監視フェーズでは意図した通りに振る舞いながら、実運用時には異なる振る舞いをするリスクを検証する。これはAIシステムの信頼性を根本から問う問いであり、現状の評価手法では検出が極めて難しい領域でもある。Apollo Researchはこれまでにもフロンティアモデルの自律的リスク評価を継続的に公開しており、業界内での独立性と専門性において一定の評価を得ている組織だ。
各監査組織の担当領域
Apollo Research以外の3組織も、それぞれ異なる切り口でOpenAIの内部を検証する。
- METR:最大規模の強化学習トレーニングラン(報酬シグナルを通じてモデルを最適化する手法)におけるAIの不正な振る舞いを検証する。METRはモデルの自律性評価(METR Task Standard)の策定でも知られる
- Goodfire:モデル内部の処理プロセスを解析する、いわゆる解釈可能性(Interpretability)の研究を担当。ニューラルネットワーク内部で何が起きているかを人間が理解できる形で可視化することを目指す
- Transluce:ポストトレーニング段階での安全性チェックを評価。トレーニング後の微調整フェーズに潜むリスクを精査する
この4領域——欺瞞的アライメント、強化学習時の不正行動、解釈可能性、ポストトレーニング安全性——を並行して検証する設計は、単一の観点に依存しない多層的な監査アプローチと言える。
ガバナンスの構造:独立性と情報制限のバランス
プロセス全体は独立した安全委員会が監督し、非編集版(unredacted)の報告書を受け取り、紛争の仲裁も担う。
ただし、監査結果の公開には条件がある。OpenAIは機密情報の削除と、リスク対応のための公開遅延が可能だ。外部監査といっても、完全な透明性が担保されているわけではない点は留意が必要だ。
OpenAIとTransluceは2027年初頭に8週間のフォローアップレビューも計画しており、今後は企業文化や内部プロセスに焦点を当てたレビューも検討している。
「形式だけ」との批判は避けられるか
AI企業による自主的な安全対策は、実効性を疑う声が業界に根強い。GoogleやAnthropicも外部研究者との連携や安全フレームワークの公開を進めているが、オフィスへの物理的立ち入りと未公開モデルへのアクセスを同時に認める形式は業界全体でも珍しい。
今回の取り組みは外部組織が実際にオフィスに入って内部システムにアクセスできる点で踏み込んだ設計になっているが、OpenAI自身が「当初は摩擦(friction)が生じることも想定している」と認めている。監査結果の公開に対するOpenAI側の裁量が残る以上、独立性の実質をどう評価するかは報告書が出てから判断されることになる。
詳細はOpenAI opens its AI systems to four independent on-site auditors for the first timeを参照していただきたい。