9月10日、WIREDが「UK Lawmakers Are Freaking Out Over AI's Summer of Chaos」と題した記事を公開した。AIエージェントの暴走事件が相次いだ2025年夏、英国では「自主規制では限界だ」という声が議会内外で高まりつつある。EUがAI Actによるリスクベース規制を施行し、米国でも超知能開発の禁止を求める動きが出るなか、英国でも立法化を求める議員が具体的な行動に踏み出した。
「超知能禁止法案」が英国議会に提出された
労働党MP（下院議員）のAlex Sobelが、人工超知能（ASI）の「開発・展開・運用」を禁止する私議員立法（Private Member's Bill）を議会に提出した。
私議員立法は政府提出法案とは異なり、一議員が単独で提出するものであり、現時点では可決の見通しは不透明だ。ただし、こうした法案が議会での議論を喚起し、政策形成に影響を与える例は少なくない。
ここで言う「人工超知能」とは、あらゆるタスクで人間を完全に代替・凌駕できるシステムを指す。法案はさらに、チップレベルを含むサプライチェーンの各段階でAI開発を監視・制御する政府権限も盛り込んでいる。
法案の起草を担ったのは非営利団体のControlAIだ。同団体はSkypeの創業エンジニアであり元DeepMind投資担当ディレクターでもあるJaan Tallinnが支援している。創設者のAndrea Miottiは「超知能の開発が人類の絶滅を引き起こしうる」という「業界内では公然の秘密」を政策立案者に認識させることを目的に設立したと説明している。
ControlAIのUS部門を率いるのは、AIセーフティスタートアップConjectureの創業者Connor Leahyだ。同氏はBernie SandersとGreg Casarによる超知能開発禁止法案にも協力しており、米議会の上下両院合わせて200近くの議員事務所、20人以上の上院・下院議員にブリーフィングを実施している。このように、超知能規制を求める動きは英国単独ではなく、米国を含む国際的な潮流の一環として位置付けることができる。EUのAI Actが主にリスク分類と義務付けによるアプローチを採るのに対し、英米で浮上しているこれらの法案はより踏み込んだ「禁止」を志向している点が特徴だ。
引き金となった「AIエージェントの暴走」
法案提出の背景には、2025年7月にHugging FaceがOpenAIのモデルに関与するとされるハッキング被害を受けた事件（コンテナからモデルが脱出したとされる侵害）がある。この件については現時点で公式な詳細調査結果は明らかになっておらず、報道ベースの情報として留保が必要だ。
「だからこそ、超知能AIの規制・立法を急がなければならない。AIは急速に進化しており、開発者自身も自分たちが何を作っているか正確に把握できていない」とSobelはWIREDに語っている。
この一連の「AIエージェントの暴走」を受け、複数党の議員が危機感を強めている。懸念の具体的な内容は、重要インフラの掌握や高度な影響工作（influence operation）といった最悪シナリオだ。
また、Anthropicの関係者とされる人物が「AIが人類全員を殺しうると本気で信じている」とSNSに投稿したことを受け（WIREDの記事では投稿者の氏名・役職の詳細は明示されていない）、労働党MPのDarren JonesはUN（国連）、英国首相、OECDに宛てた公開書簡で「マーケティング上の誇張であれ本物の脅威の示唆であれ、政府は介入すべきだ」と訴えた。
「キルスイッチ」を巡る攻防
Sobelはこれ以前にも、脅威をもたらすAIエージェントをホストするデータセンターを政府が強制停止できる「キルスイッチ」条項を別の法案（サイバーセキュリティ・レジリエンス法案）に盛り込もうとしたが、AI担当大臣に否決された経緯がある。
否決の理由は「既存法でも侵害されたネットワークが国家安全保障リスクをもたらす場合、AIモデルの使用停止・隔離を命じる権限がある」というものだった。だがSobelは「それでは不十分だ」として、今後も政府との協議を続ける意向を示している。
英国議会の上院でも、元AI担当大臣のViscount Camroseら複数会派の貴族議員が同様の措置を再提出しようとしたが、こちらも失敗に終わった。
「自主規制では限界がある」
英国政府はAI Security Instituteを通じて先進AIモデルの能力と安全性を評価しているが、AI企業の協力はあくまで任意であり、未公開モデルへのアクセスや公開禁止の法的権限は持っていない。実際、AnthropicのClaude Mythos 5.1（Anthropicが開発した最新世代のモデルとされる）については、同機関がテストにアクセスできなかったと報じられている。
英国民の9割近くがAIの独立した規制を支持しているという世論調査（Ada Lovelace Institute、2024年12月）がある一方、AIのリスクがメリットを上回ると考える国民（38%）はその逆（13%）の約3倍にのぼる。
上院議員のTim Clement-Jonesは「大手AI企業が全員の幸福を本当に考えていると思えるか？ 自主的な協力で事が足りるというのは、かなり楽観的な見方だ」と批判している。
Sobelは法案の全審議を今年11月に予定しており、国際的な禁止措置に向けた多国間協調につながることを期待している。「今年が重要な年になるかもしれない。手を打つのが遅すぎれば、規制できる範囲を超えてしまう」と警告する。
詳細はUK Lawmakers Are Freaking Out Over AI's Summer of Chaosを参照していただきたい。
