9月24日、The Next Webが「OpenAI wants the US to lead global AI standards」と題した記事を公開した。OpenAI CEOのサム・アルトマンが国連安全保障理事会で直接ブリーフィングを行うという歴史的な場面を目前に控え、同社が米国主導のグローバルAI技術標準策定を提言する文書を公開した。航空安全や金融安定の分野で機能してきた「国際技術標準」モデルをAIに適用する構想だが、それは規制でも許可制でもない——という点がこの提言の最大の特徴だ。
Altman、安保理で直接ブリーフィングへ——AIをめぐる外交の焦点
今週水曜日、OpenAI CEOのサム・アルトマンが国連安全保障理事会で直接ブリーフィングを行う予定だ。Anthropic CEOのダリオ・アモデイもビデオ参加し、深層学習の先駆者ヨシュア・ベンジオとHugging Face CEOのクレマン・デランゲも同席する。フランス外相ジャン＝ノエル・バロが議長を務めるこの会議は、安保理としてますます高度化するAIの安全リスク、とりわけ人間の制御喪失の可能性に焦点を当てた初の会合だ。
ブリーフィング前の説明でOpenAI関係者はアルトマンが「現実的な中道派」の立場を取ると説明。OpenAIは特定の国際規制機関を支持するわけではないが、各国が民主的な手段で異なるアプローチに到達する可能性はあるとしている。
なお、翌木曜日にはアルトマンがホワイトハウスでの中国・習近平国家主席を招いた公式晩餐会にも出席する予定だと伝えられている。
「ライセンス制ではなく技術標準を」——OpenAIの主張の核心
OpenAIは9月21日、グローバルAI標準に関する提言書を公開した。その中で最も注目される論点が、RSI（Recursive Self-Improvement：再帰的自己改善）への対応だ。
RSIとは、AIシステムが自身の後継モデルの開発作業を自律的に担う仕組みを指す。OpenAIはこれについて明確に警告している。
「完全自律型のRSIは現時点では実現していないし、安全に実施できると確認されない限り追求すべきでもない」（OpenAI提言書より）
不適切なRSIが進めば、人間が研究プロセスを理解・監視できなくなるリスクがあると同社は指摘する。また、同社が以前開示したHugging Faceのインシデントをそのリスクの例示として挙げている（ただしそのインシデント自体はRSIの直接的な結果ではないとしている）。
重要なのは、OpenAIが提唱する標準が「ライセンス制」でも「事前審査・承認要件」でもない点だ。航空業界における国際安全基準（ICAO標準など）が各国に共通の技術的ベースラインを提供しながらも、各国の規制主権を侵さない仕組みと同様に、OpenAIが目指すのはAI版の「技術標準レイヤー」だ。
「これらの技術標準は、ライセンスでも、モデルのリリース前の強制審査でも、承認要件でもない。各国政府がこの標準を自国の法体系にどう取り込むかは、それぞれが判断する」（同提言書）
特定の企業・国・ビジネスモデルに有利な設計にはしないと明言している点も、提言の信頼性を担保するうえで重要な要素だ。
標準がカバーする3つの領域
提言書が示す標準の対象は以下の3領域だ。
- RSI関連の進捗測定——AI企業内でどの程度の自律的研究が行われているかの計測手法
- 人間による監視——どの自動化研究プロセスが即時の人間レビューを要するかの基準
- インシデントの分類・追跡・報告——共通の重大度レベルを含む報告体制
OpenAIは自社のミスアライメント報告フレームワークを、この第3領域への初期貢献として位置づけている。
実装面では、オーストラリア・カナダ・ドイツ・フランス・ケニア・日本・韓国・シンガポール・インド・英国に設置済みのAI安全機関のネットワークを基盤とする構想だ。標準策定の推進役として、米国のCAISI（Center for AI Standards and Innovation）および各国産業団体が想定されている。CAISIは米国国立標準技術研究所（NIST）傘下の組織で、AI標準化における米国政府の公式窓口に位置づけられている。
なぜ「今」米国が主導するか
「米国のAI産業は技術的フロンティアにあり、金融・貿易・防衛・技術・情報システムといった重要分野で依然として世界的なネットワーク上の優位を持つ」（OpenAI）
同社は、今主導権を握るかどうかが、米国が国際枠組みを形成するか、断片化したシステムの形成を傍観するかを決定づけると主張する。
外交週間のさなかに公開された提言
この提言が公開されたタイミングは偶然ではない。直前の週末、スコット・ベッセント財務長官が米中間でAI対話の設置に合意したことがBloombergで報じられ、ワシントンは北京に対してAIインシデント警告システムの設置も提案していた。
一方、ドナルド・トランプ大統領は同月曜日にTruth Social上でAIへの規制を軽くする姿勢を改めて表明。国連総会ではグテーレス事務総長がAIの危険性と国際協調を訴えたが、トランプ大統領はこれを「グローバリストの陰謀」と一蹴し、同演説の中でAIを「スーパーインテリジェンス」と改称すると発言した。
また、ベッセント長官はCNBCの取材に対し、政府はフロンティアAIラボに対する責任免除は認めないと述べたと報じられている。
詳細はOpenAI wants the US to lead global AI standardsを参照していただきたい。
