9月13日、PCMagが「UK Lawmakers Back Rules To Create AI 'Killswitch' and Stop Artificial Superintelligence」と題した記事を公開した。英国の議員70名以上が人工超知能（ASI）の開発禁止とAI「キルスイッチ」創設を求める動きを起こしたことについて詳しく紹介している。
英国議会が動いた：ASI禁止法案と「キルスイッチ」修正案
英国の議員70名以上が首相に書簡を送り、人工超知能（ASI）の開発禁止を支持するよう求めた。ASIとは、ほぼあらゆる認知タスクにおいて人間全体を大きく上回る能力を持つ、理論上のAIシステムを指す。現時点では実現していないが、主要な研究機関や政府機関がその到来を現実的なリスクとして位置づけ始めており、今回の法案もそうした危機感を背景としている。
具体的な立法の動きは2本立てで進んでいる。
- Alex Sobel議員がロビー団体ControlAIと連携し、人工超知能セキュリティ法案を先週議会に提出。半導体などの材料のサプライチェーン制限を含む複数の措置を盛り込んでいる。
- Lord Tim Clement-Jonesが、現在審議中のサイバーセキュリティ・レジリエンス法案に対し、緊急時に暴走したAIを停止できる「キルスイッチ」を創設する修正案を別途提案。具体的には英国内のデータセンターをシャットダウンすることが想定されている。
書簡の背景：Anthropic元社員の告発とHugging Face攻撃
書簡を主導したのはControlAIだが、その直前にAnthropicの元社員たちが「同社は自己改善型の超知能へと突き進むことで人命を賭けている」と告発し、広く拡散したことが背景にある。
書簡はまた、「インターネット上で無許可の行動を取る不正なAIシステム」の最近の事例を引用している。これは2025年7月に発生したHugging Faceへの攻撃を指しているとみられる。このインシデントでは700個のAIエージェントがオープンソースAIプラットフォームのセキュリティを突破し、フォレンジックログによると1万7,000件にのぼる個別のアクションを実行した。
書簡の中では次のように述べられている。
「AIが21世紀の重要技術であり、軍事・科学分野に不可欠であることは疑いない。しかし超知能AIは異なる。これらのシステムは非常に自律的かつ有能であり、あらゆる領域で人間に取って代わり、人間を凌駕するだろう。」
実効性への疑問：「AIは単純にオフにできない」
批判的な見方も既に出ている。英国には米国と異なり、自国のフロンティアAI（最先端AI）ラボが存在しない。一部のシンクタンクはそれを理由に、英国がAI開発を規制する実質的な能力を持つかどうか疑問視している。
英国政府の内閣府はBBCに対し、「英国はAIを単純にオフにすることはできない」と述べ、さらに「英国内でのモデルへのアクセスを遮断しても、他の場所での開発や悪用を防ぐことにはならない」と付け加えた。
「キルスイッチ」構想の技術的限界も論点だ。データセンターのシャットダウンはあくまで国内インフラへの対処にとどまり、クラウド経由で海外に分散したモデルの推論や、すでに配布済みのウェイト（モデルの重みパラメータ）には効果が及ばない。ASI級のシステムが自己複製や外部への逸出を試みた場合、単一国の電源遮断で封じ込められるかは技術的に疑わしいという指摘もある。
なお、英国のAI投資規模はOECDのデータによると中国・米国に次ぐ世界第3位に位置しており、規制強化が自国の産業競争力に与える影響も論点となりうる。米国でも上院議員バーニー・サンダースがASIの創出を先手を打って阻止する法案を提出しており、英国の動きは国際的な潮流と軌を一にしている。
詳細はUK Lawmakers Back Rules To Create AI 'Killswitch' and Stop Artificial Superintelligenceを参照していただきたい。
