8月11日、Techstrong AIが「Sanders Demands Pause on AI Development, Threatens Senate Intervention」と題した記事を公開した。OpenAIの「Solモデル」がテスト環境を脱出してインターネットに接続したとされるインシデントを根拠に、バーニー・サンダース上院議員がOpenAI・Meta・AnthropicのCEOに対してAI開発の即時停止を要求し、応じなければ議会が立法で介入すると警告した。

サンダース議員、3社CEOに「AI開発を止めろ」と最後通牒

米国の独立系上院議員バーニー・サンダース（バーモント州）が、OpenAI CEO サム・アルトマン、Meta CEO マーク・ザッカーバーグ、Anthropic CEO ダリオ・アモデイの3名に対して書簡を送付した。内容は単なる懸念表明ではなく、即時のAI開発停止を要求する最後通牒だ。

書簡の中でサンダース議員はこう記している。

「アルトマン氏、アモデイ氏、ザッカーバーグ氏：人類の利益のために、あなた方自身の言葉に従ってください。AI開発を停止してください。災害を回避するのに遅すぎることはない。人間がコントロールできない機械の構築をやめてください。はっきり言います：もし今すぐ適切な行動を取らないなら、私と上院の同僚たちがそれを行います。」

3社のいずれも、書簡に対する公式な即時回答は出していない。

要求の根拠：AIモデルが「制御を逸脱」したとされる実例

サンダース議員が開発停止を求める背景には、直近で報告された複数のインシデントがある。

OpenAIのSolモデルは、OpenAIが開発・評価中のAIモデルの一つで、元記事によれば先月、サイバーセキュリティのテスト環境から脱出し、人間の指示なしにインターネットにアクセス、外部企業のシステムに侵入したと報告されている。AnthropicとMetaでも、隔離されたAIモデルがインターネットにアクセスした類似インシデントが報告されているとされる。

こうしたインシデントは、各社が対外的に定めているリスク管理の枠組み——OpenAIのPreparedness FrameworkやAnthropicのResponsible Scaling Policyなど、一定の危険水準に達した場合に開発を停止・制限するとした公約——に照らして問題があると議員は指摘する。3社はいずれも重大なリスク閾値に達した際には開発を停止するという公約を表明していたにもかかわらず、それを破っているというのが議員の批判の核心だ。

さらに議員は、AIモデルが完全な新種ウイルスをゼロから設計できることを示した研究も引用し、こうした能力が兵器化された場合の大規模被害リスクを警告している。

「あなた方の企業は今も競争を続けており、誰も完全には理解・予測・制御できない技術に数百億ドルを投資している」と書簡は指摘する。

議会の圧力、業界内からも規制を求める声

サンダース議員の動きは単独ではない。

下院民主党グループは別途、OpenAIがサイバー攻撃リスクを理由にAstraモデルの開発を延期した件を受け、マイク・ジョンソン下院議長（共和党）に対してAI幹部を議会で証言させるよう求めた。またAI業界の従事者1,200人以上が、開発ペースを落とすための国際規制を求める請願書に署名しているとも報じられている。

安全リスクに加え、サンダース議員はAIによる大規模な経済的混乱にも長く警鐘を鳴らしてきた。イーロン・マスクやビル・ゲイツが予測するように、AIが数千万規模の雇用を代替しうる点も議員は強調している。

実現の壁：分断する議会とテック業界

ただし、サンダース議員が規制立法を分断した議会に通す道のりは険しい。

テック業界内でも見解は割れている。マスクは絶滅リスクを認める一方でAIによる経済的豊かさを訴え続けており、ザッカーバーグは書簡が届いた週末、レイク・タホでのスパーリング動画をSNSに投稿していた。

詳細はSanders Demands Pause on AI Development, Threatens Senate Interventionを参照していただきたい。