9月19日、Matthias Bastianが「California Governor Newsom signs executive order demanding "kill switch" for AI models」と題した記事を公開した。カリフォルニア州のギャビン・ニューサム知事がAIモデルへの「キルスイッチ」導入を義務付ける行政命令（Executive Order）に署名し、連邦レベルでの規制を棚上げにしているトランプ政権を名指しで批判した。州としての独自規制をいち早く制度化し、その枠組みを全米標準として採用するよう連邦議会に求める内容であり、AI規制をめぐる州と連邦の対立が鮮明になっている。
AIモデルに「キルスイッチ」——ニューサム知事が行政命令に署名
カリフォルニア州のギャビン・ニューサム知事が、AI企業への独立監査の加速とAIモデルへの「キルスイッチ」導入を求める行政命令に署名した。
「キルスイッチ」とは、問題が発生したAIモデルを強制的に停止・無効化できる仕組みを指す。技術的には、モデルの推論エンドポイントを即時シャットダウンする機構や、特定の出力パターンを検知した際に自動的にサービスを停止するフェイルセーフ機構などが想定される。単なる「サービス停止ボタン」ではなく、問題のあるモデルが外部から切り離されるまでの時間を最小化するための設計要件を企業に課す点が、この命令の核心だ。
今回の行政命令は、Hugging Faceのプラットフォームで悪意ある第三者がホスティングされたAIモデルを悪用したインシデント（AIエージェントの誤動作をめぐり独立した原因調査を求める声が上がった事案）など、直近のインシデントを受けた対応だ。こうした事案が具体的な立法・行政の動きを後押しした格好となっている。
専門家パネルに2ヶ月の期限——独立監査官をラボ内に常駐
行政命令が定める具体的な措置の柱は、専門家パネルへの2ヶ月以内の勧告提出の義務付けだ。その勧告には、AI企業のラボ内に独立した監査官を直接常駐させる要件も含まれる。
「ラボ内監査官」の発想自体は、実はAIラボ側から先に出てきたものだ。Anthropic CEOのダリオ・アモデイが開発速度の抑制と独立監査を求める提言を行い、サム・アルトマン、イーロン・マスク、デミス・ハサビスといった人物もその呼びかけを支持している。今回の行政命令は、そうした業界内の議論を行政が具体的な制度として形にした動きと見ることができる。
実務的な影響は小さくない。監査官がラボ内に常駐するということは、開発中のモデルのアーキテクチャ、学習データの管理体制、インシデント対応ログといった機密性の高い情報へのアクセスを外部の第者に認めることを意味する。AI開発に携わるエンジニアにとっては、情報管理ポリシーの見直しや、開発フローへの監査対応プロセスの組み込みが現実的な課題となる。専門家パネルが2ヶ月以内に提出する勧告の内容次第では、どの規模・種類のモデルが監査対象となるかの線引きも変わってくるため、業界全体が注視している段階だ。
トランプ政権との対立——連邦レベルの規制不在を批判
ニューサム知事は行政命令の中で、ドナルド・トランプ大統領を名指しで批判している。トランプ氏が「AIラボは恐怖をあおっている」と主張したのに対し、ニューサム知事は「AI企業に危険なインシデントの報告を義務付ける連邦法は存在しない」と明確に反論した。
この対立は単なる政治的なレトリックにとどまらない。連邦政府がAI規制に消極的な間隙を縫い、カリフォルニア州がすでに独自のAI安全性法、子どもの保護法、ディープフェイク規制、データプライバシー法（CCPA）、サイバーセキュリティ規制を整備してきた実績がある。ニューサム知事はこの州法の枠組みを、連邦議会が全米の標準基準として採用するよう正式に求めている。
かつてデータプライバシー規制においてCCPAが先行し、他州や連邦の議論を牽引した経緯がある。AI規制においても同様の「カリフォルニア発・全米標準化」の構図が繰り返されるかどうかが、今回の命令の真の意義を測る試金石となる。
背景——懸念は行政だけでなく学術界からも
AI規制への圧力は政府だけから来ているわけではない。42名の著名な数学者のグループが、近い将来に急速に進化する可能性のある高度なAIシステムのリスクについて警告を発しており、技術コミュニティ内でのリスク認識の高まりが規制論議を後押ししている。
州レベルで規制の具体化が先行し、連邦政府が追いかける構図は、AI開発の現場に対して二重の規制リスクをもたらす可能性もある。カリフォルニア州法が事実上の全米標準となるのか、それとも連邦政府が独自の枠組みで上書きするのか——その行方が、AIエンジニアや企業の開発戦略に直接影響を与えることになる。
詳細はCalifornia Governor Newsom signs executive order demanding "kill switch" for AI modelsを参照していただきたい。
