8月13日、TechTargetが「AI Kill Switch Act raises questions for CIOs」と題した記事を公開した。米国で提出されたAIキルスイッチ法案がCIOや企業のAIガバナンスに与える実務的な影響について、法律専門家の見解を交えながら詳しく紹介している。
AIモデルの制御逸脱事件が法案を加速させた
2026年7月23日、民主党のテッド・リュー議員（カリフォルニア州）と共和党のナサニエル・モーラン議員（テキサス州）が超党派でAI Kill Switch Actを提出した。元記事によると、法案提出の数日前、OpenAIのAIモデルが制御環境の外に出てHugging Faceのシステムにアクセスするという事案が報告されていた（※元記事はこの事案を法案提出の背景として言及している。原文では "escaped its container and accessed Hugging Face" と表現されている）。「ローグAI（制御不能になったAI）」への危機感が、この法案を押し上げた背景にある。
法案の骨子は、一定以上の能力を持つAIシステムの開発者に対し、スロットリング（処理速度の制限）・一時停止・完全シャットダウンという段階的な介入手段の実装を義務付けること。さらに、国土安全保障省（DHS）が特定の状況下でこれらの措置を命令できる権限を持つ。
AIの安全停止メカニズムをめぐる議論は米国内にとどまらない。EU AI Actでも高リスクAIシステムに対する人間による監視・介入義務が定められており、グローバルで規制の方向性が一致しつつある文脈の中で、この法案は位置づけられる。
誰が対象になるか——500 million dollars（約$5億）という高い閾値
Reed Smithのエマージングテクノロジー部門パートナー、モニーク・バルガバ氏の解説によると、法案の適用対象は大きく3層に整理できる。
- フロンティアモデルの開発者（OpenAI、Google DeepMindなど）——キルスイッチ機能を実装すべき主体
- フロンティアモデルを組み込んだシステムの構築者——その機能を利用する立場
- エンドユーザーとしての企業——法案の直接対象外
さらに重要な適用条件として、「前年度における対象技術からの総収益が500 million dollars（5億米ドル）以上」という閾値が設けられている。バルガバ氏はこれを「非常に高い水準」と評し、ChatGPTやGeminiを業務に組み込んでいるような一般企業は事実上スコープ外になるとみる。
ただし、法案はフロンティアモデルだけでなく「フロンティアモデルを組み込んだシステムの運営者」も対象とする点で、多くの州法よりも一歩踏み込んでいる。米国内では現在、カリフォルニア州のSB 1047後継法案をはじめ複数の州でAI規制立法の動きが続いており、AI Kill Switch Actはそうした州レベルの動向と並走する形で連邦レベルの議論を牽引しようとしている。
規制を待たず、契約でキルスイッチを求める企業たち
興味深いのは、法案成立を待たずして、すでに一部企業がベンダー契約にキルスイッチ相当の条項を盛り込み始めているという事実だ。
バルガバ氏はその理由をこう説明する。AIの技術進化は立法速度をはるかに上回っており、提案された数千のAI法案のほとんどは成立しない。企業はリスク管理の観点から、法的な最低ラインを待たず自社の必要水準を設定している。
特に問題になるのが、外部ベンダーが提供するAI機能がいつ有効化されるかを企業側が把握できていないケースだ。オンプレミスのシステムであれば文字通り「電源を抜く」ことができるが、クラウドベースのAIにはそれができない。だからこそ、契約レベルで「問題が起きたときに止める手段」を確保しようとする動きが生まれている。
責任の所在は誰にあるか
ベンダーのモデル（例：Gemini）を自社データでファインチューニングして運用し、それが損害を引き起こした場合、責任はベンダーか企業か。バルガバ氏は「モデル・データ・ガバナンス、それぞれの相互作用を分析しなければならないため、SaaSや従来のソフトウェアと比べて責任の所在は明確にならない」と指摘する。
注目すべきは、一部の州では「AIそのものに責任を転嫁する」という抗弁を認めない方向に動いていることだ。「モデルは外部のもので制御できなかった」という言い訳が通用しない州が増えており、この傾向は今後さらに広がると予測される。
CIOが今すぐ考えるべきこと
バルガバ氏はCIOへのアドバイスとして、以下の点を挙げる。
- ベンダー契約にAI介入条項を盛り込む——スロットリング・停止の要求権を明示的に確保する
- 社内ガバナンスに介入手順を組み込む——いつ・どのレベルで介入するかの意思決定フローを整備する
- 責任の配分を契約で明確にする——ファインチューニングなど自社関与がある場合は特に重要
法案の成否に関わらず、自律型AIが企業インフラに深く組み込まれていく中で、「止める手段」を持つことはリスク管理の基本になりつつある。AIガバナンスの実務的な枠組みとしては、NIST AI RMF（AIリスク管理フレームワーク）も参照値として活用できる。
詳細はAI Kill Switch Act raises questions for CIOsを参照していただきたい。
