9月25日、Ayushi Jainが「OpenAI, Google and Anthropic plan joint AI safety group, may announce it by 2027: Report」と題した記事を公開した。競合関係にある企業が互いのモデルを相互検査し合うという異例の枠組み、そして政府の監督を一切介さない業界自主規制という設計——OpenAI・Google・Anthropicの3社が進める合同AI安全基準団体の構想は、既存の規制アプローチとは一線を画す試みだ。

競合同士がモデルを相互テストするという異例の枠組み

構想の中で最も注目を集めているのが、OpenAIとAnthropicが互いの商用AIモデルを相互に検査し合うという取り決めだ。両社は法的拘束力のある合意を別途締結する方向で協議しており、その内容は、競合他社のモデルに対してアクセス権を付与し、独立した形でストレステストを実施できるようにするというものだ。

ここでいうストレステストとは、AIモデルに対して意図的に異常な入力や極端なシナリオを与え、脆弱性・有害な出力・予期しない挙動が生じないかを検証するプロセスを指す。AIの安全評価において広く用いられる手法だが、通常は自社内または第三者機関が担うものであり、競合企業が互いに実施するケースはほとんど例がない。テスト中に収集したデータは保持しないことでも合意する予定とされている。

こうした相互検査の枠組みは、核兵器の相互査察協定になぞらえて語られることもある。商業的な競争関係を維持しながら、安全確保においては協調するという構造は、AI業界においては事実上初めての試みと言える。

3社が共同でAI安全基準団体を設立へ

The Informationの報道によると、OpenAI・Google・Anthropicの3社は、AI業界共通の安全基準を策定するための合同団体を設立する方向で協議を進めている。2026年末から2027年初頭にかけての発足が検討されており、元記事ではこの団体の暫定的な呼称として「Frontier AI Standard Agency」という名称が報じられている（ただし正式名称はいまだ確定していない）。

ここでいうフロンティアモデルとは、現時点での技術的最前線に位置する大規模AIモデルを指す。GPT-4oやClaude 3系、Gemini Ultra系などがその代表例であり、能力の高さゆえに安全上のリスクも大きいとされる。安全基準の策定対象を「フロンティアモデル」に絞ることで、汎用的な規制より実効性を高める狙いがある。

注目すべきは、この機関が政府の監督なしに独立して機能するという設計だ。AI規制をめぐっては、EU（欧州連合）が2024年にEU AI Actを施行し、米国でも2023年に大統領令14110（Executive Order 14110）が発令されるなど、政府主導の規制整備が進んでいる。しかし3社は、こうした政府主導の枠組みとは別に、業界自身が主導する自主規制の形を選んだことになる。政府規制は法的拘束力を持つ一方、技術の進展に対して制度整備が追いつかないケースも多く、業界側がスピード感を持って対応するための手段として自主規制が選ばれた側面もある。

国連でも安全基準と国際協力を訴え

団体設立の協議と時を同じくして、国連でも関連する議論が展開された。OpenAIのSam Altman CEOとAnthropicのDario Amodei CEOは各国の外相級高官に対してAIリスクと国際協力の必要性を訴えた。両者はAI安全基準の国際的な統一を求めたほか、深刻な脅威が確認された場合には新モデルのリリースを遅らせる用意があるとも発言した。

国連の場での発言は、単なる企業のPRにとどまらず、AI安全を外交・安全保障上の課題として位置づける動きとも読み取れる。2023年に英国で開催されたAI Safety Summit（ブレッチリーサミット）など、国際的なAI安全に関する議論が加速する中、主要AI企業が自ら国連の場に乗り込んでロビイングを行うという構図は、業界の政策関与の姿勢が一段と積極化していることを示している。

トランプ政権との温度差

こうした安全強化の動きに対し、米国のトランプ大統領は規制強化に否定的な立場を取り続けている。厳しいルールが中国との世界的なAI競争における米国の優位性を損なうと主張しており、業界側の自主規制路線と政権の方針の間には依然として大きな温度差がある。

バイデン政権下で発令された大統領令14110は、フロンティアモデルの安全評価を政府に報告することを義務づけるものだったが、トランプ政権はその方針を転換しつつある。その空白を埋める形で業界自主規制が浮上してきたという背景も見逃せない。AI研究者からの警告や複数の事案を受けて安全策強化を求める声は高まっているが、政府主導の規制と業界自主規制のどちらが実効性を持つかは、今後の展開次第だ。

詳細はOpenAI, Google and Anthropic plan joint AI safety group, may announce it by 2027: Reportを参照していただきたい。