9月21日、CNBCが「OpenAI proposes development of global AI standards to guide alignment, RSI」と題した記事を公開した。OpenAIが「完全自律型のRSIは現時点では安全に実施できると確認できない限り追求すべきでない」と公式文書で明言したことで、AI安全性をめぐる業界全体の議論が一気に加速している。

OpenAIが国際標準策定を提案——RSI規制が焦点に

OpenAIは現地時間9月21日、フロンティアAI（最先端の大規模AI）の開発における安全・セキュリティに関する提案書を公式ブログに公開した。提案の柱となっているのは、アライメント研究とRSI（Recursive Self-Improvement：再帰的自己改善）への対応だ。

アライメントとは、AIシステムが人間の意図や価値観に沿って動作するよう制御する研究領域を指す。RSIとは、AIが人間の関与なしに自らを改良・強化できる仕組みのことで、実現すれば能力が指数関数的に向上するとされる一方、開発者がシステムの挙動を把握・制御できなくなるリスクが指摘されている。

「完全自律型RSIは今すぐ追求すべきでない」

OpenAIはブログ投稿の中で以下のように述べた。

「この移行を安全に乗り越えるには、アライメント研究が能力の進歩に追いつく必要がある。そうでなければ、私たちや他者が構築するシステムが人間の価値観に沿い、人間の制御下に置かれ続けることを保証できない。」

RSIについては、より踏み込んだ警告を発している。

「完全自律型のRSIは現時点では実現していないし、安全に実施できると確認できない限り追求すべきでない。適切な注意と慎重さを欠いたままRSIを進めれば、人間がAI開発の実質的な制御を失い、もはや理解できない研究プロセスへの監視も不可能になりかねない。」

国際協力と既存機関の活用を呼びかけ

提案の具体的な内容として、OpenAIは以下を求めている：

• 国際協力によるフロンティアAI標準の策定
• 世界各国の既存AI安全機関の成果を基盤とした標準構築
• フロンティアAIモデルと開発者を対象とした技術標準の整備
• 自動化されたAI研究者（RSIを含む）に対する便益・リスク管理の枠組み

業界全体に広がる議論の背景

この提案は、業界が揺れる中で発表された。先週（9月18日前後）には、競合のAnthropicもフロンティアAIの安全な開発に関する独自の提案を公開している。

その直接的なきっかけとなったのが、AnthropicとOpenAIの双方で勤務経験を持つ研究者・Jacob Coxonの辞職表明だ。Coxon氏は約2週間前に辞意を公表し、両社が「私たちの命をギャンブルにかけている」と批判。この発言は世界的な論争を引き起こした。

さらにMicrosoftのAI担当CEOであるMustafa Suleimanは、今回のOpenAIによるAI安全性に関する情報開示の内容と姿勢についてCNBCの取材に対してコメントし、「深刻な状況だ」と述べた。OpenAIと直接競合するMicrosoftのトップが公然と懸念を示したことは、業界全体での安全性議論の広がりを象徴している。

エンジニア目線での注目点

今回の提案で技術者が特に注目すべきは、RSIへの言及の踏み込み具合だ。OpenAIがRSIの危険性を公式文書で明示的に認めた点は、これまでの同社のスタンスと比較しても強い表現といえる。

また、「標準化」の主体として各国AI安全機関の活用を明示した点も重要だ。OpenAIの提案は既存の国際的なAI安全機関を標準策定の起点として位置づけており、日本においてはAI安全研究所（AISI）がその候補の一つとなりうる。AISIは2024年に設立された政府機関であり、国際的な安全評価の枠組みづくりへの参画をミッションに掲げている。こうした国際的な標準策定プロセスへの関与が今後問われることになる。

一方で、提案はあくまで方向性を示したものにとどまっており、具体的な測定基準や執行手段については言及がない。実効性をどう担保するかは、今後の課題として残る。

詳細はOpenAI proposes development of global AI standards to guide alignment, RSIを参照していただきたい。