9月16日、Help Net Securityが「Self-improving AI should slow down, von der Leyen tells EU lawmakers」と題した記事を公開した。欧州委員会のフォン・デア・ライエン委員長が自己改善型AIの開発ペース抑制を訴え、主要AIラボとの協議を開始すると表明したことを伝えている。

AI企業のCEO自身が「スローダウン」を求めている

今回の発言で最も注目すべき点は、フォン・デア・ライエン委員長が規制当局として一方的に制限を求めているのではなく、最先端AIを開発している企業のCEOたち自身が「自己再帰型モデル（self-recursive models）のペースを落とす時だ」とEUに伝えてきたと述べた点だ。委員長は具体的な企業名を挙げなかったが、この発言はOpenAI、Anthropic、Googleといったフロンティアラボを念頭に置いているとみられる。

「フロンティア（frontier）」とは、現時点で最も性能の高い汎用AIシステムを指す業界用語だ。また「自己再帰型モデル（self-recursive models）」とは、より高性能な後継モデルの開発を自ら支援できるシステムを指す。これが実現すると、人間の介在なしにAIが自律的に能力を向上させるループが生まれる可能性があり、研究者の間で長らく懸念されてきたシナリオだ。

フォン・デア・ライエン委員長は欧州議会でのState of the Unionアドレスにおいて、こうしたモデルがもたらす具体的なリスクとしてハッキング能力の飛躍的向上を挙げた。

「開発中のモデルは、我々がかつて不可能と考えていたレベルのハッキングを可能にする。そしてそれらは間もなく、我々とはまったく異なる世界観を持つ敵対勢力の手に渡る」

加えて、AIエージェント（タスクを自律的に実行するソフトウェア）が隔離された実行環境（サンドボックス）から脱出したり、悪意あるコードを挿入したりする事例がすでに起きていると指摘した。HuggingFaceに関連するインシデント以降、開発者たちが警鐘を鳴らし続けているとも述べた。

EUが打ち出した具体的な対応策

フロンティアモデルのリスクへの対応として、EUは以下の方針を示した。

• カナダ・英国との共同作業：モデルの評価・検証、早期警戒、AIセキュリティの分野で連携する。カナダのマーク・カーニー首相はフォン・デア・ライエン委員長の招待を受け、この演説に出席した。
• EU-カナダ貿易協定（CETA）の拡張：AI、量子技術、サイバー・経済安全保障をカバーする広範な同盟に発展させることを提案した。
• フロンティアラボとの会合：主要AIラボを招き、EUがそれらの企業自身によるペース抑制努力をどう支援できるかを協議する。ただし、この会合の具体的な日程は示されていない。

規制面では、すでに施行されている**EU AI Act**（EU AI規制法）がガードレールの中核と位置づけられ、EUが国際的なルール形成をリードする根拠になるとした。

産業応用：5セクターで11月に施策発表

リスク管理とは別に、フォン・デア・ライエン委員長はAIを実経済に根付かせる取り組みにも大きく時間を割いた。対象セクターとしてヘルス、輸送、農食品、先進製造業、防衛・宇宙の5分野を挙げ、これらに関する具体的な施策を11月に発表すると述べた。

具体例として挙げられたのが医療分野だ。元記事によれば、乳がん検診は受診した女性の死亡率を**約30〜40%**削減するとされており、AIを活用した検診ではより多くのがんをより早期に発見できると主張した。ただし、自動診断には明確に一線を引いた。

「私は医師がAIによってより良い診断や治療の選択肢を得られるようにしたい。しかし医師がAIアシストのロボットになることは望まない。AIは医師を強化するものであり、代替するものではない」

その他：子どもの安全とディープフェイク

AIは子どもの安全政策にも組み込まれた。少女の写真を用いてAIで性的な画像が生成されている問題を挙げ、委員会が提案予定のEU Kids Actでは、13歳未満のSNS利用禁止、13〜14歳への保護者監督アカウントの義務付け、15〜18歳向けサービスへの安全設計の義務付けが盛り込まれる。安全性の立証責任はプラットフォーム側が負う形になる。また、外国による偽情報キャンペーンの手法としてディープフェイク動画の拡散も問題視した。

フロンティアラボとの会合に関する日程は現時点で未定のままだ。

詳細はSelf-improving AI should slow down, von der Leyen tells EU lawmakersを参照していただきたい。