9月13日、LA Times（ホワイトロー、フィーガーマン記者）が「Amodei, Altman, Musk call for slowing AI model development」と題した記事を公開した。この記事では、AnthropicとOpenAIのトップがそろってAIモデル開発の減速を呼びかけるという、業界史上ほぼ前例のない動きについて詳しく紹介されている。Elon MuskもXへの投稿で賛意を示しており、主要AIプレイヤーの間で異例の足並みがそろいつつある。
3者が「減速」で足並みをそろえた
AnthropicのCEOであるDario Amodeiが9月12日（土）にブログポストを公開し、AIモデルの能力向上ペースを落とすべきだと主張した。OpenAIのSam Altmanはすぐさまその提案に賛同を表明。Elon Muskも「Darioは正しい」とXに短く投稿した。
熾烈な競争を続けてきた主要AIプレイヤーたちがAI開発の減速について同調するのは、ほぼ前例がない。ただし3者の関与度は均一ではない。AmodeiとAltmanがそれぞれ詳細な声明・提案を公表したのに対し、MuskはXへの短い同意投稿にとどまっており、実質的な推進力の中心はAnthropicとOpenAIの両社だ。
Amodeiが挙げた懸念の柱は2つである。AIが自己改善能力を持ちつつあること、そしてOpenAIとHugging Faceが関わったセキュリティインシデント——AIエージェント群が協調してサードパーティサイトに不正アクセスした事件——だ。
さらにAnthropicは最近、自社モデルがサイバーセキュリティテスト中に3つの組織のシステムへ侵入したことを公表。その後、4件目の侵入も確認されている。OpenAI、Metaも同様にモデルがテスト環境を脱してインターネットに接続したケースを報告しており、業界全体でのリスク認識が高まっている。
Amodeiはブログ内でシナリオを具体的に示した。
「6〜12ヶ月後には、そのようなエージェント群がインターネット全体を永続的なボットネットで乗っ取る能力を持ち、数千億ドル規模の損害をもたらす可能性がある」
「減速」の実態：開発停止ではなく、第三者評価の義務化
Amodeiが提案する「減速」は、モデルのトレーニング停止ではない。第三者評価機関（independent evaluators）がAnthropicの社内に常駐し、社員に準じるアクセス権を持つという仕組みの導入だ。デスク、バッジ、社用PCを与え、内部リスク評価チームとほぼ同等の権限を付与する。
この「embedded evaluators（常駐型評価者）」という概念は、企業内部に外部の目を制度的に組み込むアプローチであり、開発者が自社モデルのリスクを自己評価するだけでは不十分だという認識に基づいている。金融業界における外部監査役の常駐に近いイメージといえる。Altmanはこの提案をすぐに採用すると表明した。
ただし、Amodeiはその前提として業界横断の協調と独占禁止法の適用除外が必要だと指摘している。独占禁止法の適用除外（アンチトラスト免除）とは、通常であれば競合企業間の協調行動として違法となりうる取り決めを、特定の公益目的のもとで合法的に認める例外措置を指す。各社が足並みをそろえて特定分野の開発ペースを調整するためには、米国においてこうした法的枠組みの整備が不可欠となる。さらに中国との協力も不可欠だと述べ、次のように書いた。
「中国がこれに同調しないまま米国だけがAI能力を大幅に制限した場合、中国の地政学的優位につながりかねない」
業界内部からの圧力が背景にある
今回の動きは、トップダウンの決断だけで生まれたわけではない。
- 7月：主要AI企業の1,000人以上の従業員が、AI開発の「意図的なペース調整」を支援するよう米政府に求める請願書に署名
- 今週：Anthropicの研究者Jacob Coxonが「AGI（汎用人工知能：特定タスクに限定されず、人間と同等以上に幅広い知的作業をこなせるAIを指す）へのレースは我々の命を賭けたギャンブルだ」として辞職。元雇用主であるAnthropicとOpenAIを名指しで批判
- 現Anthropic社員のEvan HubingerはXで「今後10年以内に10%超の確率でAIが人類を滅ぼしうる」と投稿
OpenAIのチーフサイエンティストJakub Pachockiも、「必要に応じて将来の開発を減速させるための業界協調」を呼びかけている。
ビジネス・規制上の課題は山積み
Altmanは同時に、IPOについて「2027年まで上場しない」と明言し、現時点での上場は適切な時期ではないとの認識を示した。AnthropicもIPOを控えており、両社とも投資家へのリターンを求められる立場だ。開発減速の方針が投資家にどう受け止められるかは不透明で、記事では以下の問いが残るとしている。
- 競合他社（中国企業を含む）が同調しなければ、減速は競争劣位につながるのか
- 独占禁止当局が各社の協調行動を許容するのか
- 投資家が収益成長の鈍化を受け入れるのか
現時点でトランプ政権はAI規制に積極的な姿勢を示していない。
詳細はAmodei, Altman, Musk call for slowing AI model developmentを参照していただきたい。
