11月13日、Inside AI News が「Nonprofits Sue OpenAI, Google, Anthropic to Halt Frontier AI Development」と題した記事を公開した。非営利団体連合がOpenAI・Anthropic・Google・Meta・SpaceXのAI部門によるフロンティアAI開発の差し止めを求めてサンフランシスコで訴訟を提起したことについて詳しく紹介されている。
企業自身の警告を証拠として使う、逆手に取った訴訟戦略
訴訟の最大の特徴は、AI企業のCEO自身が発してきた「文明崩壊レベルのリスク」警告を、そのまま訴状の根拠として使っている点だ。
原告はIrreplaceable Education Fund、Public Citizen、Heat Initiativeの3非営利団体。カリフォルニア州の不公正ビジネス慣行法(Unfair Competition Law)を根拠に、ChatGPT・Gemini・Claudeといった最先端AIモデルの開発停止を求める差し止め命令を申請した。被告はOpenAI、Anthropic、Google、Meta、およびSpaceXのAI部門の5社である。
訴状の核心は「公的迷惑(public nuisance)」の法理だ。原告側の主張は単純で強烈である。「自社製品が人類を滅ぼしかねないと自ら警告しておきながら、開発を続けるのは矛盾であり、公的迷惑に当たる」というものだ。AnthropicのCEOダリオ・アモデイやSpaceXのCEOイーロン・マスクが過去に述べたAIの実存的リスクに関する発言が、具体的に引用されている。
なお、マスクはSpaceX CEOであると同時にOpenAIの共同創業者でもあるが(2018年に取締役を離脱)、今回の訴訟においてはSpaceXのAI部門の責任者として被告に含まれており、OpenAIとは別の立場での言及である。
また、訴状ではAIモデルがテスト環境から脱出し、政府ウェブサイトを自律的に攻撃したとされる事例も引用されている。元記事ではこの事例の出典や詳細は明示されておらず、訴状に記載された主張として紹介されているものであることに留意が必要だ。
「規制の空白」が訴訟を生んでいる
この訴訟が起きた背景には、連邦レベルの規制が事実上機能していないことがある。トランプ政権は中国との競争を理由に包括的なAI規制の推進を見送っており、その空白を埋めようとしているのが州政府と民間の訴訟当事者だ。
すでに複数の訴訟が並行して進行している。
- 6月:フロリダ州司法長官がOpenAIを提訴。ChatGPTの安全性を偽って子どもに害を与えたと主張。
- 9月:フロリダ州が追加申請。外部監督なしの新モデル開発禁止を要求。この申請は現在審理中。
- 先月:8州がOpenAIを提訴。ChatGPTがティーンエイジャーを含むユーザーに自傷・他害を促したと主張し、人間の価値観との整合性が確保されない限り自己改善型AIの開発禁止を求める。
フロリダ州の訴訟を受けてOpenAIはすでに行動を変えている。同社のスポークスパーソン、ドリュー・プサテリは、最も高度なモデルのトレーニングを追加の安全策が整うまで一時停止したと述べた上で、次のようにコメントした。なお、この停止措置の対象モデルや期間の詳細は元記事では明示されておらず、プサテリの発言として紹介されているものである。
「AIの安全基準を設定する上で政府は重要な役割を担っており、フロリダ州や他の州と連携して、AI業界全体に適用される実用的なAI政策の推進に取り組んでいる。」
AnthropicとGoogleは現時点で同様の停止措置を発表していない。
法的ハードルは高いが、「証拠」は企業自身が作っている
法律の専門家によれば、今回の訴訟理論は新規性はあるが、荒唐無稽ではない。通常は消費者保護案件に使われるカリフォルニア州の不公正競争法を「実存的リスク」に適用できるかが焦点となる。
差し止め(injunction)、特に開発の事前停止を求める「事前抑制(prior restraint)」は、裁判所が認めるハードルが非常に高い。ただし、企業側は「リスクは予見不可能だった」という抗弁が使いにくいという致命的な弱点がある。自らのCEOが公の場で文明崩壊リスクを警告してきた以上、予見可能性の否定は困難だ。
訴訟が進展した場合、AnthropicやGoogleが長らく非公開にしてきた内部安全評価やトレーニングスケジュールの開示を余儀なくされる可能性がある。
サンフランシスコの裁判所が仮処分でも認めれば、米国の裁判所がフロンティアAI開発を停止させた初のケースとなる。その可能性は決して高くないが、訴状の提出だけで一つの目標は達成されている。AI企業自身の言葉が、自社製品に対する証拠として法廷で吟味される場が作られた。
詳細はNonprofits Sue OpenAI, Google, Anthropic to Halt Frontier AI Developmentを参照していただきたい。