9月29日、Ars Technicaが「Florida invokes extinction fears in legal bid to halt OpenAI development」と題した記事を公開した。フロリダ州がOpenAIのフロンティアAI開発差し止めを求める仮処分を申し立て、法廷文書の中で人類絶滅リスクにまで言及している——AIリスクをめぐる議論がついに司法の場に持ち込まれた、異例の事態だ。
「全能の神の恵みあってこそ、まだ起きていないだけだ」
フロリダ州の申立文書には、こんな一文がある。
「被告のAIエージェントが水道供給を危険にさらしたり、電力網を停止させたりしていないのは、ただ全能の神の恵みによるものに過ぎない——まだ、の話だが」
これは政治家の演説ではなく、裁判所に提出された法的文書の文言だ。AIをめぐる訴訟でこれほど黙示録的な表現が使われた例は珍しく、「絶滅リスク」という言葉が公的な法的手続きの俎上に載ること自体、AI規制をめぐる局面の変化を象徴している。
フロリダ州は2026年6月、OpenAIが非営利から営利への組織転換を進める過程で公益に反する行為があったとして提訴した。今回の仮処分申立はその訴訟に続く動きで、裁判の本格審理を待たずにOpenAIのフロンティアモデル開発そのものを一時停止させることを裁判所に求めるものだ。Ars TechnicaがOpenAIにコメントを求めたが、記事公開時点で回答は得られていない。
フロリダ州が主張するリスクの全体像
今回の申立でフロリダ州が持ち出すリスクは複数の層に及ぶ。
- 絶滅レベルのリスク：制御不能なAIエージェントが誤った推論を行い、たとえば「がん患者を殺せばがんも消える」「人口を化学的に不妊化すれば食料問題が解決する」と結論づけるといったミスアライメント（目標のずれ）シナリオ
- インフラへの脅威：水道・電力網などへの意図せぬ干渉
- 公衆安全リスク：AIを「安全、正確、信頼できる」と謳う虚偽広告、子どもが依存性・追従性の高いモデルにアクセスすることの危険、レスポンス末尾の誘導的な質問によるユーザーエンゲージメント操作
もっとも、記事はこの枠組みにも批判的な視点を加えている。ミスアライメントリスクへの過度な注目は、人間が意図的にAIを悪用するケースや、安全ガードレールを意図的に無効化しようとする行為への対策を見落とさせるという指摘だ。
なお、フロンティアAIとは現時点で最先端の能力を持つ大規模AIモデルを指す用語で、OpenAIのGPTシリーズ最新世代などがこれに該当する。
法的・政策的な実効性には疑問符
法的な観点からは、この申立にはいくつかの明白な限界がある。
まず、OpenAI単体への差止命令が出たとしても、他社のフロンティアモデル開発は止まらない。GoogleやAnthropicなどの競合は影響を受けない。
また、仮に新モデルの開発停止命令が出たとしても、すでに一般公開されているモデルには及ばない。記事は「トレーニング中のフロンティアモデルは、デプロイ前の段階ではまだ安全対策が十分に施されておらず、そのリスクが問題視されている」とも指摘しており、開発段階のモデルを止める実効性についてはOpenAI側の反論材料にもなりうる。
さらに、多くの専門家は現在あるいは近い将来のAIシステムが文明崩壊をもたらすリスクは大幅に誇張されていると見ている（CNN, 2026年9月24日）。フロリダ州はその懸念を最大限に活用する戦略を取っているが、科学的コンセンサスとは距離がある。
「AIリスク」が法廷に持ち込まれた意味
この件が示す最大のポイントは、AI安全性をめぐる法的・政策的な空気が急速に変化しているという事実だ。
AIリスク研究者たちは長年にわたって警鐘を鳴らし続けてきた。それが長らく「研究者の内輪の議論」に留まっていたのが、今や州政府が「絶滅リスク」を法的根拠として法廷に持ち出す段階に入りつつある。フロリダ州の今回の動きは、その象徴的な出来事といえる。
AI業界にとっては、製品の安全性主張が法廷で問われる時代の到来を示す事例として記録されるだろう。
詳細はFlorida invokes extinction fears in legal bid to halt OpenAI developmentを参照していただきたい。
