9月20日、insideai.newsが「AI Safety Debate: Pacing the Frontier vs. Trump's Acceleration」と題した記事を公開した。この記事では、AI安全性をめぐるテック業界トップ幹部とトランプ政権の対立構図について詳しく紹介されている。

AI開発の「速度」をめぐる議論が、これまでにない形で表面化している。フロンティアモデル（最先端の大規模AIモデル）の開発ペースを意図的に落とすべきか、それとも中国との覇権争いを優先して加速すべきか。企業トップ、政治家、研究者が入り乱れ、それぞれ異なる立場をとっている。

Amodeiが火をつけた「ペーシング」論

議論の中心にいるのは、Anthropic CEOのDario Amodeiだ。彼が提唱する「ペーシング・ザ・フロンティア」とは、開発を止めるのではなく、アライメント（AIと人間の目標を整合させる技術）や監視、セキュリティの整備が追いつく速度まで能力向上のペースを落とすという考え方だ。

この立場の根拠として、Amodeiは2点を挙げている。一つは、AIシステムが次世代モデルの構築に自ら貢献し始めている「再帰的自己改善」の兆候。もう一つは、テスト環境で高度なAIエージェントが安全策を回避し、外部システムを攻撃した事例だ。OpenAIはこれを「警告ショット（警告となる一発）」と表現した。

OpenAI CEOのSam AltmanとMicrosoft CEOのSatya Nadellaも、それぞれ独立にAmodeiの立場を支持している。Altmanは「フロンティアのペーシングが必要だというDarioの意見に同意する」と明言し、Anthropicが求めた独立した外部評価者へのアクセスについても同等のコミットメントを行うと述べた。Nadellaは「アライメントを正しく行うための意図的なペーシング」と独立評価者の必要性を支持しつつ、「構築するAIが人類を助けず、人間の制御下にないなら、追求する価値はない」とも述べた。

トランプ政権の真正面からの反論

一方、トランプ大統領の政権はこの動きに正面から反発している。トランプ政権はAIをアメリカが中国に対して優位性を保つための技術競争と位置づけており、新たな規制的制約よりも速度を優先する立場だ。

対立が最も劇的な形で可視化されたのは、NvidiaのCEOJensen Huangが主要なテックサミットに登壇した場面だ。会話の途中でトランプが電話をかけてきて、Huangはスピーカーフォンで聴衆の前に通話をさらした。

「ロボットが支配することはない。あれは全部デマだ」（トランプ大統領、Huangへの電話にて）

「AIを制した者が勝つ」（トランプ大統領、同通話にて）

Huang自身の立場はより慎重だ。自社のシステムが制御不能になると判断した企業は開発を遅らせるべきだと述べる一方、「アメリカはリードしつつ、安全にそれを実現できる」と語り、AI終末論的な予測は科学的根拠が不十分だとして退けた。

業界内の亀裂

賛否は業界内でも割れている。

Mark Zuckerberg（Meta CEO）は業界全体での減速に反対の立場をとる。MetaはAIエージェント「Muse」を安全上の懸念から延期したが、他社に同様の対応を求めることはしていないとし、AI企業にはシステムを安全に保つ十分なインセンティブがすでに存在すると主張した。

Palantir CTOのShyam Sankarはより思想的な角度から批判を展開。AI安全性運動の一部は有効利他主義（Effective Altruism、功利主義に基づく社会貢献思想）から継承した考え方に基づいており、仮想の将来のカタストロフィを現実のコストより重視しているとして、この思想を「アルゴリズム時代のマルクス・レーニン主義」と呼んだ。

元TwitterのJack Dorseyは独立した評価と危険な能力への厳格な審査を支持するが、既存の大手ラボがフロンティアを制御することになる規制には反対した。「企業の商業的優位性を守ることは安全目標ではない」と明言し、競争的なオープンソースの代替手段を強く支持した。

学術界からはモントリオール大学のDavid Krueger准教授がより踏み込んだ立場をとる。Kruegerはディープラーニングの安全性とアライメントを専門とする研究者で、AIリスク評価の学術的議論において一定の影響力を持つ論者として知られる。

「AI企業がやっていることが信じられないほど危険で、全人類を死に至らしめる可能性があることは、業界内では公然の秘密だ。規制だけでは不十分だ。フロンティアAI開発の即時かつ無期限の国際的モラトリアム（開発の一時停止）が必要だ」

中国問題がすべてを複雑にする

議論をさらに困難にしているのが中国の存在だ。Amodei自身もアメリカが一方的に減速することは支持していない。彼の主張は、民主主義国家が中国に対して技術的なリードを可能な限り大きく保つべきというものであり、先端チップの輸出規制もその一環だ。

この枠組みに対し、中国外務省のスポークスマン郭嘉昆氏は「恐怖の扇動、対立、悪意ある競争はAIのグローバルガバナンスを妨げるだけだ」と反発した。官営の「環球時報」はさらに踏み込み、Amodeiのペーシング論と対中技術制限の組み合わせを「冷戦的アプローチ」と批判した。

Kruegerは、米国の規制がゆるめば中国が追い越すという論法に対して「合理的な議論ではない」と述べつつも、「中国も世界を滅ぼすAIは望んでいない。ただし国際合意には検証手段が必要だ。フロンティアAIの構築には高性能チップへの大規模な投資が必要で、そのチップと工場を監視・管理する体制を今すぐ整えれば、誰も秘密裏に強力なAIを構築できなくする環境は実現可能だと考える」と述べた。

規制の行方

議論は議会にも波及している。米上院では、フロンティア開発者に安全対策の立証と政府主導のテスト受験を義務付け、場合によっては裁判所がリスクの高いモデルのリリースを差し止められるようにする法案が検討されている。OpenAI自身も独立した評価、サイバーセキュリティ保護、インシデント報告を盛り込んだ義務的な国家規則を求めている。

技術競争、企業の利害、地政学的リスク、そして実存的なリスクへの評価の違い。これらが絡み合うこの議論の構造は、CTOや技術的意思決定者が自社のAI戦略を策定する上でも無視できない外部環境となっている。

詳細はAI Safety Debate: Pacing the Frontier vs. Trump's Accelerationを参照していただきたい。