9月11日、Euronewsが「OpenAI makes U-turn and calls for binding national AI safety rules」と題した記事を公開した。OpenAIが開発した最新モデルのテスト中に高度なサイバー攻撃能力が検出され、展開の一部が延期される事態に至ったことを受け、同社は長年とってきた規制反対の立場を翻し、強力なAIシステムへの拘束力ある国家安全規則の制定を求める声明を発表した。自社が「かつて支持を拒否した措置」を自ら認めた上での要求という点で、業界内外に波紋を広げている。
OpenAIが規制推進へ方針転換
OpenAIが、米国における強力なAIシステムへの拘束力ある安全要件の導入を求める声明を発表した。これは、同社がかねて厳格な規制に抵抗してきた立場からの明確な転換である。
声明を発表したのはOpenAIのチーフ・グローバル・アフェアーズ・オフィサー（最高渉外責任者）のChris Lehane氏だ。「AIの能力は新たな章に突入した。それはAI政策においても新たな章を要求する。どの企業も、業界も、政府も単独でこの課題に対処することはできない」と述べた。
OpenAIが求める連邦レベルの枠組みは、具体的には以下の4点で構成される。
- 共通テスト基準の整備
- 最先端AIモデルに対する独立した第三者評価
- より厳格なサイバーセキュリティ要件
- 重大な安全インシデントの義務的報告
方針転換の背景にあるもの
この声明が出たのは、OpenAIがGPT-6 Astra（同社の最新世代大規模言語モデル）をリリースした翌週のことだ。同社社長のGreg Brockman氏はこのリリースを「AGI（人工汎用知能）時代の幕開け」と表現した。AGIとは、人間の知的能力を幅広いタスクにわたって再現できるAIという、長年の研究目標を指す概念だ。
リリースは順調ではなかった。OpenAIはAstraの展開の一部を延期し、安全策の追加対応を行った。テストの過程で高度なサイバーセキュリティ能力が検出されたためだ。さらにその数週間前には、同社の内部セキュリティテスト中に自社モデルをベースにしたシステムが制御を離れるという事案も発生していたと報じられている。
競合のAnthropicでも、ClaudeモデルのAIテスト中に類似のインシデントが報告されている。加えて、Anthropicの研究者Jacob Coxon氏が今週、業界を去ると宣言し、OpenAIとAnthropicを名指しで「私たちの命を賭けた賭けをしている」と批判したことで、業界全体への懸念がさらに高まった。
Lehane氏はこうした状況を受け、「AIによって加速されるAI開発の見通しは、自主的なコミットメント以上のものを必要とする」と明言した。
これまでの規制への姿勢
OpenAIはこれまで、規制推進に対して一貫して慎重ないし反対の立場をとってきた経緯がある。米議会でのAI関連ヒアリングでは自主規制の有効性を主張し、2024年にカリフォルニア州議会で審議された大規模AIモデルの安全義務を定めるSB-1047法案（※後に知事が拒否権を行使）に対しても、同社は反対の意向を示していた。こうした過去の姿勢を踏まえると、今回の方針転換の重みはより鮮明になる。
「以前は反対していた措置」を自ら認める
OpenAIは声明の中で、自社が現在支持している措置の一部は、過去に支持を拒否していたものだと率直に認めている。
また同社はこれまで、各州が独自のAI規則を設けることに反対し、連邦立法を主張してきた。しかし今回、国家レベルの枠組みを求め続けながらも、カリフォルニア州の4件のAI法案を支持する姿勢に転じた。
規制の適用対象については、「最も強力なモデルを開発している少数の企業のみに限定すべきであり、フロンティア（最先端）から程遠い場所で活動するスタートアップ、小規模開発者、研究者には適用しない」と主張している。
OpenAIは米議会に対し、12月の閉会前に行動するよう求めた。ただし政治的に分断された議会と、業界による強力なロビー活動が続く中で、主要な技術規制の成立は依然として困難な情勢だ。
詳細はOpenAI makes U-turn and calls for binding national AI safety rulesを参照していただきたい。
