9月3日、Computer Weeklyが「Lords considers government emergency AI kill switch」と題した記事を公開した。英国上院（貴族院）においてAIシステムを緊急停止する「キルスイッチ」権限を政府に付与する法改正案が審議されていることを詳しく紹介している。

立法の背景：自律型AIへの懸念が高まる中で

元記事によれば、今回の立法動向の背景には、自律型AIシステムが制御を逸脱するリスクへの懸念がある。記事ではAIセキュリティに関するいくつかの事案や動向が言及されているが、それらの詳細・企業名・経緯については元記事の記述を直接確認していただきたい。

こうしたリスク認識の高まりを受け、先週は大手テック企業を含む100社以上がサイバー防衛の加速を求める公開書簡に署名。AI利用のサイバー攻撃は数か月以内にさらに広範かつ高度化すると警告している。

「適切なセーフガードがなければ、高度に有能なAIエージェントは技術的な制御を回避し、未承認のチャンネルで協働し、人間が指示していない危険な行動を取ることができる」——元記事ではこのような趣旨の見解が紹介されており、キルスイッチ立法の必要性を裏付ける文脈として位置付けられている。

法改正案の具体的な内容

貴族院に提出された修正案は、自由民主党貴族院議員のティム・クレメント＝ジョーンズ卿が提案し、保守党のディド・ハーディング男爵夫人、クロスベンチャーのビーバン・キドロン男爵夫人、労働党のフィリップ・ハント卿が共同提案者となっている。非営利団体ControlAIも支持している。

修正案が成立すると、国務大臣（Secretary of State）は以下の権限を持つ：

• AIシステムが国家安全保障・公共の安全・重要インフラに対して「壊滅的リスク（catastrophic risk）」をもたらすと判断した場合、データセンターやAIシステムを停止させる権限
• AIの訓練・展開に使われるデータセンター事業者に対し、キルスイッチ用の技術インフラの設置と、政府との安全な通信チャネルの確保を義務付ける権限
• キルスイッチが機能することを確認する定期演習の実施を義務付ける権限

さらに、半年ごとの報告書の提出が義務付けられる。報告書には、AIセキュリティ上の緊急事態の原因分析、国家・非国家主体によるAIの敵対的利用の評価、人間の監視から逸脱しうる自律型AIシステムの開発状況なども含まれる。

なお、今回の法案は英国の「サイバーセキュリティ・レジリエンス法案（Cyber Security and Resilience Bill）」への修正案として提出されている。5月に庶民院でも同様の修正案が試みられたが、否決されている。

超知能AIの開発禁止法案も並行して動く

別途、労働党・協同党議員のアレックス・ソーベル議員が9月8日に、人間が制御できない超知能（superintelligent）AIの開発を禁止する法案を提出する予定だ。「UK人工知能安全保障法案（UK Artificial Intelligence Security Bill）」は、超知能AIの開発を世界規模で防ぐ国際協定の締結を英国政府に義務付けるものだ。

ザック・ゴールドスミス卿は修正案への支持を表明しつつ、さらに踏み込んでこう述べた。「専門家たちは超知能AIが人類の絶滅につながる可能性を警告している。制御が保証できるまで、その開発を禁じる国際協定を主導するよう政府に強く求める」。

米国でも同様の動き

7月には米国でも、AIキルスイッチ法（AI Kill Switch Act）が議会に提出されている。同法案は、強力なAIシステムの開発者に対し、逸脱したAIモデルを絞り込み・停止・完全シャットダウンする技術的能力の維持を義務付けるものだ。国土安全保障省長官が商務長官・国家情報長官と協議のうえ、「壊滅的な被害をもたらしうる」AIシステムの停止を命じることができる。

英米両国での立法の動きは、AIキルスイッチが「SF的な過剰反応」ではなく、現実的な安全基盤として各国政府が真剣に検討し始めていることを示している。

詳細はLords considers government emergency AI kill switchを参照していただきたい。