7月14日、The Next Webが「Hassabis wants a FINRA-style referee for frontier AI」と題した記事を公開した。Google DeepMindのDemis Hassabis CEOがフロンティアAIモデルを出荷前に審査する米国主導の標準化機関の創設を提言したという内容だ。自社が競うフロンティアモデルの開発を止める権限を持つ機関を設けよと求めているのが、当のラボトップ自身だという点が業界内でも異色の動きとして注目されている。

AIラボの総帥が「停止ボタン」を自ら求めた

HassabisがXに投稿したマニフェストは、業界内でも異色の提言だ。自社が競うフロンティアモデルの開発を、業界全体として「スローダウン」させる権限を持つ機関を設けよ——これを求めているのが、当のラボトップ自身だというのがポイントである。

Hassabisが参照したのはFINRA（金融業規制機構）だ。FINRAはウォール街を監視する業界自主規制機関で、証券会社が資金を拠出しつつ政府の監督下に置かれるという官民混合型の組織形態を持つ。AIにおけるHassabisの構想も同じ構造を取る。資金はラボ各社が拠出し、ボードにはチューリング賞受賞者を含む独立専門家やオープンソースコミュニティ、政府関係者を並べる。

「出荷前30日間の審査」という具体案

機関の役割は明確だ。最初はラボが自発的にリリース30日前にモデルを提出する。審査項目はサイバー攻撃能力、生物兵器・核リスクへの応用可能性、そしてモデルの「欺瞞的挙動」の兆候だ。

体制が機能し始めた後は義務化に移行する。「フロンティア級」モデルはこの審査を通過しなければ米国市場に出せなくなる。基準は四半期ごとに更新され、モデルがオープンかクローズドか、どの国で開発されたかを問わず適用される。スタートアップと学術機関は対象外とされる。

最も踏み込んだ条項：開発の一時停止

提言の中で最も重い部分が、この機関がリスクに応じて権限を「段階的に強化（ratcheted up）」できるとした箇所だ。具体的には、フロンティアラボ間で開発のスローダウンを調整することまで含まれる。

HassabisはAxiosの取材に対し、現時点のサイバーリスクは「警告ショット」にすぎないと語った。18か月以内に、政府が回収できないオープンソースモデルの中に、深刻な生物・核ツールが埋め込まれる可能性があるという。

「今なぜ」——トランプ政権の輸出規制が引き金

タイミングに偶然はない。先月、トランプ政権はAnthropicの強力なモデルに対して突然の輸出規制を発動し、何週間もの交渉が続いた。ルールブックは存在しなかった。Hassabisはこれを「ちょっとした警鐘だった」と表現した。OpenAIも同様の事態を警戒し、GPT-5.6の公開を政府の承認が出るまで保留した経緯がある（同リンクはThe Next Webによる別記事）。

こうした動きはHassabis単独ではない。AnthropicのDario AmodeiとともにG7で米国主導のAI連合を訴えた。AmodeiはFAA（連邦航空局）型の機関を求めており、ラボトップたちが「ワシントンによる規制」で合意しつつ、主導権の所在では見解が分かれている構図だ。

Hassabisは年内の機関設立を目指すとしており、トランプ政権・競合ラボ・欧州当局に数か月をかけてブリーフィングを続けてきたという。反応は「非常にポジティブ」だとしている。

構造的な問題

提言が抱える根本的な問いは、記事自身も指摘している。ラボが資金を出し、自社モデルの欺瞞を監視する機関が、本当に「停止」を命じられるのか、という問題だ。FINRAも長年、業界寄りだという批判を受け続けてきた経緯がある。

Hassabisは今回のマニフェストで、AGIはインターネットというより「火や電気」に近いと書いた。また「砂に思考させる方法を見つけた（we've found a way to make sand think）」という表現でシリコン半導体上で動作するAIの本質的な異質さを描写した。象徴的なフレーズだが、その砂を止める主体が誰であるべきかという問いへの答えは、まだ出ていない。

詳細はHassabis wants a FINRA-style referee for frontier AIを参照していただきたい。