10月13日、PYMNTSが「AI Safety Regulations Gain Momentum in Congress Ahead of Midterms」と題した記事を公開した。2026年中間選挙を前に、米国議会でAI安全規制の立法化に向けた動きが超党派で加速している。最も注目すべき逆説は、規制を後押しする最大の声が規制される側——すなわちAI企業の幹部自身——から上がっている点だ。「銀行、上下水道、電力網の脆弱性を発見・悪用できるモデルがある。壊滅的な失敗の後ではなく、公開前に把握すべきだ」。これはWarner上院議員の言葉だが、その根拠として議員が引用しているのは、AI企業幹部自らの警告である。

自律エージェントへの警戒が立法を後押し

AI技術の急速な進化と、それに対する有権者の不安が直接の引き金となっている。とりわけ「自律型AIエージェント」——人間の指示なしに目標を設定・実行できるシステム——が現実的な脅威として認識され始めたことが、議会の動きを加速させた。

民主党のMark Warner上院議員（バージニア州）は、Brian Schatz議員（ハワイ州）、Andy Kim議員（ニュージャージー州）とともに、「Artificial Intelligence Risk Management and Security Act of 2026（AIリスク管理・安全保障法案）」を提出した。Warnerは上院情報特別委員会の副委員長を務めており、民主党が中間選挙後に議会の主導権を握った場合には同委員会の委員長に就く可能性がある。つまりこの法案は、単なる政策提言ではなく、選挙結果次第で現実の執行権限と直結する提案だ。

法案の背景には、最先端AIモデルが持つサイバー攻撃能力の飛躍的な向上がある。Warnerは声明でこう述べている。

「最も強力なAIシステムを構築している企業が警鐘を鳴らしている。AIモデルのサイバー攻撃能力の飛躍的な向上と、それらの能力を安全にホスト・展開することへの明らかな失敗が組み合わさることで、国家安全保障、重要インフラ、そして米国民が日常的に依存するシステムに深刻なリスクをもたらす可能性がある。銀行、上下水道、電力網の脆弱性を発見・悪用できるモデルがあるなら、それが公開される前に把握すべきだ。何かが壊滅的に失敗した後ではなく」

法案の骨子：商務省内に「AI安全委員会」を設置

法案の中核は、商務省内に「AI Safety Board（AI安全委員会）」を新設する点にある。同委員会には以下の権限が付与される。

• 米国の国家・経済安全保障に対する脅威となりうるAIツールの能力を技術的に評価するプロセスの策定
• フロンティアAIモデル（GPT-4やGemini Ultra級の最先端大規模AIモデルを指す業界用語。NISTのAIリスク管理フレームワークでも同種の概念が扱われている）が持つリスクを評価する指標・プロセスの策定
• フロンティアAIモデルの技術情報を公開するための標準フォーマットの策定
• セキュアなテスト環境に関する技術標準・リファレンスアーキテクチャの策定

委員会の構成メンバーは、NIST（国立標準技術研究所）長官、商務長官、CISA（サイバーセキュリティ・インフラセキュリティ庁）長官、NSA長官、財務長官がそれぞれ1名を任命する。加えて、民間専門家、産業界の有識者、消費者保護・独占禁止法の専門家も参加する構成となっている。

他党・他議員の動きも活発化——法案の内容と温度差

Warnerの法案だけでなく、Capitol Hill（米国議会）では複数のAI安全法案が同時並行で進行している。超党派の動きとはいえ、各法案の切り口と強度には違いがある。

民主党のMaria Cantwell上院議員（ワシントン州）が先週提出したフロンティアAI規制フレームワーク法案は、AIによるサイバー攻撃、生物・化学的脅威、人間の制御喪失といった壊滅的な危害を防ぐための基準策定をNISTに義務付ける内容だ。Warner法案が「評価・監視」の仕組みを整えることに主眼を置くのに対し、Cantwell法案は「何を防ぐか」という危害カテゴリを明示している点が特徴といえる。

一方、共和党のJosh Hawley上院議員（ミズーリ州）が提案する「AI Risk Evaluation Act」は、エネルギー省が強力なAIシステムのストレステストを公開前に実施する権限を与えるとともに、事前審査なしに新たなフロンティアモデルをリリースした企業に厳しい罰則を科す内容だ。共和党議員がここまで強制的な事前規制を提案していることは、AIリスクへの懸念がイデオロギーを超えつつあることを示している。

こうした動きは、国際的な文脈でも読み解く必要がある。EUのAI法（AI Act）はすでに2024年に成立し、リスクベースの規制枠組みとして世界標準を先行して構築した。バイデン政権時代の大統領令（Executive Order 14110）も、フロンティアモデルの安全評価を義務付ける方向性を示していた。今回の議会の動きは、行政主導の取り組みが後退した穴を立法で埋めようとする試みとも見られる。

最大の障壁はホワイトハウス

ただし、どの法案も成立への道は平坦ではない。トランプ政権はAIへの強制的な規制に断固反対しており、業界が自主的に策定する標準に基づく任意のアプローチを支持している。バイデン政権の大統領令を撤回し、規制よりイノベーション優先の姿勢を鮮明にしてきた経緯がある。

とはいえ、AI業界、一般市民、そして多くの州議会がいずれも具体的な行動を求めている状況では、ホワイトハウスの反対だけで流れを止められないかもしれない、と記事は指摘している。

2026年中間選挙後の議会構成次第で、AI安全規制の行方は大きく変わる。 Warner自身が委員長ポストを手にする可能性があることも、この法案の現実的な推進力となっている。「壊滅的な失敗の後ではなく、その前に」という言葉が単なるレトリックで終わるかどうかは、秋の選挙結果にかかっている。

詳細はAI Safety Regulations Gain Momentum in Congress Ahead of Midtermsを参照していただきたい。