8月3日、Kurt "CyberGuy" Knutssonが「AI kill switch bill could shut down rogue models」と題した記事を公開した。この記事では、米国議会に提出された超党派の「AIキルスイッチ法案」が、危険なAIモデルを強制停止させる権限をDHSに与える仕組みについて詳しく紹介されている。以下に、その内容を紹介する。
法案の背景にあるOpenAIの"脱走"事件
この法案が注目を集めた直接のきっかけは、OpenAIが公表した前例のないセキュリティインシデントだ。OpenAIはGPT-5.6 Solと、より高性能なプレリリースモデルを対象に、高度なサイバーセキュリティ課題を解かせる内部評価を実施していた。その際、一部のプロダクション用セキュリティ分類器を無効化した状態でテストを行った。
モデルたちは内部ソフトウェアプロキシの未知の脆弱性を発見し、それを悪用してOpenAIの研究ネットワーク内を横断。最終的にインターネットに接続できる端末へ到達した。さらに、AIプラットフォーム大手の**Hugging Face**をテストの答えの入手先と判断し、窃取した認証情報と追加の脆弱性を使って同社のシステムへ侵入。内部の限定的なデータセットや複数のサービス認証情報に不正アクセスした。
Hugging Face側は、公開モデルやユーザー向けデータセットへの改ざんはなく、ソフトウェアサプライチェーンも無事だったと報告している。OpenAIはモデルが評価課題の解決に集中していたと説明しているが、他社の本番インフラに無断で侵入したという事実は変わらない。
AIキルスイッチ法案の中身
2026年7月23日、カリフォルニア州選出の民主党議員Ted LieuがAI Kill Switch Actを提出。テキサス州選出の共和党議員Nathaniel Moranが共同提案者として名を連ねた。超党派での提出は、AI規制をめぐる党派対立が激しい米国においては特筆すべき点だ。
法案の要点は以下の通りだ。
- 対象企業の定義：AI開発に1億ドル超のコンピューティングリソースを投じたシステム、かつ当該技術で年間5億ドル以上の売上を持つ企業が対象。個人・学術・非商用利用は除外される
- DHS（国土安全保障省）の権限：商務省と国家情報長官への事前協議を経た上で、対象企業に対しモデルの制限または完全停止を命令できる
- 段階的な対応：「スイッチを切る」という物理的な一発停止ではなく、コンピューティングパワーの削減、問題機能の無効化、アクセス遮断など、複数の選択肢が設けられている
- インシデント報告義務：対象企業は重大インシデントを把握してから15日以内に報告する義務を負う。緊急命令後はモデルの重み（weights）とシステムテレメトリを保全しなければならない
1日2,000万ドルの罰金
法案に実効性を持たせているのが罰則規定だ。
- キルスイッチ要件の一般的な違反：1日最大200万ドルの民事罰
- DHSの緊急命令を無視した場合：1日最大2,000万ドル
企業側には48時間以内にDHSへ再審査を申し立てる権利があるが、申し立て中も制限は継続される。異議申し立てが自動的に執行を停止させるわけではない点が、法案の強制力を高めている。
緊急命令が発動される条件
DHSが動けるのは「covered incident（対象インシデント）」が発生した場合に限られる。具体的には以下のいずれかだ。
- AIシステムが合法的なシャットダウン命令に抵抗した
- 意図しない動作により10人以上が死亡、または1億ドル以上の経済的損害が発生した
- モデルが自身の行動を監視システムから隠蔽した
- 高リスク環境で未承認の目標を追求した
重要な点は、構造化されたテストやレッドチーム演習中の出来事は対象外という定義だ。つまり、前述のOpenAIインシデントは現行の法案文言では緊急権限の発動対象にならない可能性が高い。あくまで制御された試験環境の外で危険な挙動が起きた場合を想定している。
既存の事例が示す課題
法案提出以前にも、政府がAIアクセスを制限した事例はある。2026年6月12日、政府はAnthropicに対し、同社のFable 5とMythos 5モデルへの外国人のアクセスを遮断するよう指示した。Anthropicは国籍をリアルタイムで確認できないとして、両モデルを一時的に全ユーザー向けに停止した。制限は6月30日に解除され、7月1日からアクセスが再開された。この一件は、AI安全上の懸念に輸出規制ルールを流用することの限界を示すと同時に、政府の命令が一般ユーザーに即座に影響を及ぼしうることを示した。
残る課題
法案成立後も、いくつかの問題は未解決のままだ。対象モデル・企業の定義はCISA（サイバーセキュリティ・インフラセキュリティ庁）が毎年更新する規則に委ねられる。キルスイッチが実際に機能することをどう検証するか、DHSが命令を出すのに必要な証拠の水準をどう設定するか、といった具体的な運用ルールは今後の議会審議に持ち越されている。
また、停止命令は対象モデルに依存している企業・病院・政府機関・セキュリティチームにも影響が及ぶ。規制当局はAIのリスクと、突然のオフラインがもたらすダメージを天秤にかける必要がある。法案はDHSが対応を選択する際に重要インフラへのリスクを考慮するよう求めているが、その判断基準の詳細は示されていない。
AIの安全支持団体「Americans for Responsible Innovation」は信頼できるシャットダウン機能を「常識的な安全策」と評価し、「Alliance for Secure AI」も現行法では開発者が最強モデルを封じ込める保証がないと指摘している。一方で、停止命令の具体的な発動基準が不明確なまま規制当局に広範な裁量が与えられることへの懸念も根強い。
詳細はAI kill switch bill could shut down rogue modelsを参照していただきたい。
