9月14日、The Next Webが「Senate AI bill would let Washington block unsafe models」と題した記事を公開した。米上院が交渉中のAI規制法案は、危険なモデルのリリースを連邦政府が阻止できる権限とAI企業への「注意義務」を盛り込む内容だ。法案の最大の争点は誰が安全テストを実施するか——企業の自主テストか、国立研究所による独立審査か——であり、この対立が法案の行方を左右している。

政府がAIモデルのリリースを差し止められる法案

上院の交渉担当者が、特定のAIモデルのリリースを米政府が阻止できる権限を定める法案を起草中だ。Reutersがその内容を報じており、情報源は上院補佐官2名、協議に精通した人物、およびロビイスト1名とされている。

法案の柱は二つある。

一つ目は、AI開発者への「注意義務（duty of care）」の創設だ。企業は壊滅的リスクを防ぐことを目標として製品を設計しなければならなくなる。なお「注意義務」は不法行為法上の概念であり、過失による損害に対して一定の行為基準を課すものだ。AI規制への適用は新しい試みであり、どこまでの損害が義務違反として認定されるかは今後の法解釈に委ねられる部分が大きい。

二つ目は、安全でないと判断されたモデルのリリースを政府が差し止める権限だ。企業は連邦裁判所でその決定に異議を申し立てられる。ただし、政府が持つ権限の範囲はまだ協議中だという。

この法案は最先端の能力を持つモデルに適用される。Reutersは適用対象の米企業としてGoogle、Anthropic、OpenAIを名指している。

法案を主導する3人の上院議員

交渉を仕切るのは3人の上院議員だ。

• John Thune（上院多数党院内総務）
• Ted Cruz（商務委員会委員長。商務省とその傘下のAI安全研究者を管轄）
• Amy Klobuchar（交渉に参加する上位民主党議員）

CruzはXに、生物兵器や核兵器に関わる壊滅的リスクをテーマにKlobucharおよびThune（※原文ママ）と協議中だと投稿している。委員会での法案審議（markup）を今月中に行う可能性にも言及した。Klobucharは、いかなる合意も「開発者が政府の専門家と協力してモデルを検証・テストする仕組みが必要だ」と声明で述べ、開発者の制御を逃れるモデルを含む危険なモデルのリリースは認められないとした。

対立の核心：誰が安全テストを実施するか

法案の最大の争点はテスト主体の問題だ。

現在の草案では、企業が自ら安全テストを実施し、結果を商務長官に提出して展開承認を得るという枠組みになっている。ある民主党の委員会補佐官はこの草案を「主に自主基準の話」と評した。

これに対し、商務委員会の筆頭民主党議員であるMaria Cantwell（交渉の3人組には含まれていない）は、モデルを国立研究所や国家安全保障機関などの連邦機関に送付して評価させるよう求めている。CantwellはXで、意味ある立法とは「高度なサイバー攻撃の実現や、生物・核兵器の開発支援が可能かどうかを国立研究所の科学者が審査するもの」だと述べた。

Nextgovの報道によれば、CantwellのオフィスはKlobucharのオフィスに代替文言を提案しており、Klobuchar側は受け入れる姿勢を見せている。決め手となるのはCruzの判断だ。交渉に詳しい別の人物はNextgovに、「Cantwell、Anthropic、AIの安全グループは協力を拒んでいる」と語った。

州法を無効化する条項

法案にはもう一つ重要な要素がある。特定モデルリスクに関する州法を連邦法が上書き（preemption）する条項だ。

現在、AIに関する実効性のある規制は州レベルに集中している。カリフォルニア州はSB 53を成立させ、ニューヨーク州はRAISE Act（Responsible AI Safety and Education Act）を可決した。RAISE ActはAIシステムの開発者に安全評価と透明性の確保を義務付けるもので、州レベルの先進的なAI安全立法として注目されている。コロラド州は今年、独自の法律を訴訟を受けて骨抜きにした経緯がある。

Cantwellはこの条項を昨年の争いと結びつける。2025年7月に上院が99対1の圧倒的多数で否決した「州AI規制への10年間のモラトリアム（一時停止）」の試みからの「急転換」だと歓迎しつつも、連邦の枠組みには実質的な安全要件が伴うべきだと主張している。

なお、フロンティアモデル（最先端AIモデル）のレビューに関する連邦ルールは既に存在するが、非公開だ。The Next Webは9月9日、ホワイトハウスがその枠組みを公開していないと報じており、内容を把握しているのは大手企業に限られるという。

時間切れの危機とホワイトハウスの消極姿勢

立法を阻む最大の障壁は「時間」と「政治的意志」の両方だ。中間選挙は11月3日。上院のワシントン滞在予定はあと3週間、下院はわずか1週間（11月9日復帰）しかない。

民主党下院議員4名はSpeakerに即時召集を要求する書簡を送った。AI Kill Switch Actなどの既存法案を前進させるため、会期延長を求めている。これに対しMike Johnson下院議長は9月13日、「採決できる解決策があれば下院を召集する」としながらも、まずは大統領、議会指導部、主要AIラボの幹部を集めたサミットを先に行うべきだと述べた。今週は代わりにデータセンターのエネルギー法案を審議にかける予定だとAxiosが報じている。

行政府の姿勢はさらに消極的だ。Donald Trump大統領はAIの実存的リスクについて「懸念はない」と述べている。アイルランドでの発言では、リスクの警告を「起きもしないことを持ち出す否定的な勢力によるもの」と一蹴し、「AIで勝った者が（世界で）勝つ」と語った。前AI担当官のDavid Sacksは、立法なしに各ラボ自身でペースを調整するよう求めており、JohnsonもMeet the Pressで同様の論理を展開した。

時間的制約と行政府の後ろ向きな姿勢が重なる中、法案の全文は交渉担当者以外には公開されておらず、政府の差し止め権限の範囲、司法審査の手続き、preemption条項の適用範囲の3点が今も不明なままだ。テスト主体をめぐる与野党の対立が解消されなければ、会期内の成立は難しい状況といえる。

詳細はSenate AI bill would let Washington block unsafe modelsを参照していただきたい。