10月20日、Mad Robotが「Anthropic's own AI safety bill leaked, and safety campaigners are furious」と題した記事を公開した。「安全」を企業ブランドの根幹に据えるAnthropicが密かに議員へ渡していた37ページの法案草稿がリークされ、普段は同社に近い立場の安全推進派からも「本能的な怒りを覚えた」と激しく批判される事態となっている。
最大の火種：州法の「先取り」条項
安全推進派が最も強く反発しているのが州法の先取り（preemption）だ。草稿はAI開発者に対するリスク開示・第三者評価・インシデント報告に関する州独自の規制を無効化する。子どもの安全に関する法律や内部告発者保護は対象外とされているが、州によるモデル停止命令も適用対象として列挙されている。批判派はこれを「州から停止権限を丸ごと奪う」条項と読む。
連邦AIルールが州法を上書きすべきかどうかをめぐる議会内の論争はまだ決着していない。テッド・クルーズ上院議員は上院での拘束力ある安全規制をブロックし、大手テック各社はすでにホワイトハウスの自主的な協定に署名している。そのなかで先取り条項を含む草稿を「安全」企業が起草していたという事実は、政治的に重い意味を持つ。
リークの経緯：「Discussion Draft / Privileged & Confidential」
草稿は10月16日、Politicoによって公開された。表紙には「Discussion Draft / Privileged & Confidential」と記されており、最終編集日は9月29日。「AEGIS（Artificial Intelligence Evaluation, Governance, and Incident Safety）法」という作業名が付けられている。Anthropicがこれまで公表してきたAdvanced AI Frameworkの内容を、そのまま立法化した形だ。現時点では議会への正式提出はされていない。
法案の骨格：対象企業と「壊滅的リスク」の定義
法案が規制対象とするのは、年間AI収益5億ドル超、または開発費10億ドル超という大規模なモデル開発者に限定される。対象企業には以下が義務付けられる。
- 安全フレームワークの公開
- 独立した外部評価者によるモデル検証
- 商務省への重大インシデント報告
- 自社フレームワーク遵守の年次証明書提出
法案が焦点を当てるのは「壊滅的リスク（catastrophic risk）」——兵器支援、無監督のサイバー攻撃、開発者の制御逸脱などによって、50人以上が死傷するか10億ドル超の損害が生じる単一インシデントだ。
モデル停止の要件が極めて高い
問題視されているのは、危険なモデルを止めるための手続きだ。法案では、商務省がモデルの「ブロッキング命令」を求めるには、商務長官が自ら署名した書面による決定と独立評価者のアセスメントを揃えた上で、ワシントンDCの連邦裁判所に申請しなければならない。裁判所はリスクが「現在または差し迫っている」こと、かつより制限の少ない手段では対処不能であることを確認して初めて動ける。さらに命令が開発者・ユーザー・社会に与える損害も考慮せよと明記されている。
「読んでいて本能的に怒りを覚えた」
通常はAnthropicに近い立場のAI安全推進派からの反応は厳しかった。
AI安全法制を推進する団体Encodeのナサン・カルヴィン氏はXに投稿した：
この法案を読んでいて、何度も本能的な怒りを感じた。良識的な部分も一部あるが、全体として現状の危機に全く対応できていない。むしろこれを通すことで、既存法よりも壊滅的リスクへの防御が弱くなると思う。
— Nathan Calvin, Encode
ニューヨーク州でRAISE法を起草し連邦議会選に出馬中のアレックス・ボレス氏は、「AIの進展速度にも、人々を安全に保つために必要なスピードにも、全く追いついていない」と述べた。
ニュースレター「Transformer」でシャキール・ハシム氏は、超党派のFRONTIERシステムと比較し、Anthropic草稿がその点で劣っていると指摘した。FRONTIERとは「Flexible Regulatory Oversight of New Technologies and Innovations in Emerging Risks」の略で、AI評価者の基準・資格・認定プロセスを定めることを目的とした超党派の枠組み提案を指す。草稿にはこうした評価者の選定基準や資格要件が不明確だという批判だ。
Anthropicは先取り条項の修正を約束
Anthropicの連邦政策責任者アンソニー・シミノ氏は日曜日にXで反論した。草稿を共有したのは「少数の議員事務所のみ」であり、先取り条項については「州が評価者の基準や開発者によるモデル停止権限などの領域において役割を持つことを明確にする方向で修正する」と述べた。50人死傷・10億ドルという閾値はカリフォルニア州法から引用したものだが「見直す時期かもしれない」とも認めた。
だが、必要な場面でその権限が決して使われないほど高い基準であってはならない。
— Anthony Cimino, Anthropic連邦政策責任者
なぜ今これが重要か
「安全」を最も強く打ち出してきたAnthropicが出した法案草稿は、議員への影響力という点で軽くない。同社は直近でも6つの外部評価機関を社内に受け入れるという動きを見せており、今回の草稿が求める独立評価の仕組みを自ら先行実装している形でもある。それだけに、先取り条項をめぐる批判は「安全を語りながら州の規制権限を骨抜きにしようとしている」という不信感と直結し、同社のブランドそのものへの問いかけになっている。
詳細はAnthropic's own AI safety bill leaked, and safety campaigners are furiousを参照していただきたい。
