11月14日、The Decoderが「Anthropic can already retrain Mythos with "a fraction of the compute originally needed," says former researcher Coxon」と題した記事を公開した。AnthropicのIPOロードショーで公開されたスライドをきっかけに同社を退職した元研究者Jacob Coxonが、同社の計算効率の急激な改善について明かした内容を紹介している。Coxonが読み取ったメッセージは端的だ——フロンティアモデルの再学習コストは急速に下がっており、アルゴリズム改善の自動化はすでに目前に迫っている。

IPOスライドが退職の引き金に

OpenAIおよびAnthropicで研究者として勤務したJacob Coxonは、わずか約4ヶ月でAnthropicを離れた理由として、同社がIPOロードショー向けに公開したスライドを挙げている。これはいわゆる内部告発的な社内秘資料ではなく、投資家向けに正式に開示された公式文書だ。それでもCoxonが驚きをあらわにしたのは、そこに示されたトレンドの急勾配があまりにも衝撃的だったからだという。

問題のスライドは、Anthropicがモデルの事前学習（pre-training）に要する計算量の推移を示したグラフだ。縦軸が対数スケール（logarithmic scale）で表示されており、値が10倍になっても100倍になっても目盛り上の間隔が均等に見えるよう圧縮されている。それでもなお曲線は急勾配で上昇しており、Coxonはこれを「アルゴリズムの効率化が速くなるだけでなく、加速度的に進んでいる」ことの証拠と解釈した。

AnthropicのIPOロードショー資料より。コードに関する「事前学習計算量の倍率（Pre-training compute multiplier）」の推移を示す。縦軸は対数スケール。2024年7月から2026年10月にかけての急勾配をCoxonは「超指数関数的なアルゴリズムの進歩」と読んでいる。Anthropicはデータポイントが社内推計に基づく例示であると注記している。画像：Anthropic

Coxonは「あのグラフが公開されたことに驚いた。正気とは思えないプロット（insane plot）だ」と述べている。

「Mythosは一時的な例外ではなく、超指数関数上の一点だ」

Coxonが特に強調するのが、AnthropicのMythosモデルについてだ。Mythosは今年春に登場したAnthropicのフロンティアモデルであり、前世代から能力面で大きな飛躍をもたらしたとされる（関連記事）。Claudeシリーズの最上位に位置づけられるモデルとして、同社のAI安全性研究と最先端性能を両立させる存在として知られている。

Coxonは次のように述べている。

"Mythos was not a one-time deviation, but a point on a superexponential. They could already retrain Mythos with a fraction of the compute originally needed."
（MythosはAnthropicのXへの投稿より）

つまり、Mythosの登場は偶発的な性能向上ではなく、加速するアルゴリズム効率化のトレンドの延長線上にある。さらに現時点ですでに、Mythosを初回学習時より大幅に少ない計算量で再学習できる状態にあるという主張だ。これはフロンティアモデルの開発コスト構造が根本的に変わりつつあることを示唆しており、巨額の計算資源を持つ大手だけが最先端モデルを保有できるという前提が揺らぎ始めていることを意味する。

「アルゴリズム改善の自動化が目前」という懸念

Coxonはこの流れを受け、アルゴリズムの改善自体が「自動化される寸前の段階にある」と警告する。その上で、競合他社が追いつく時間を確保するため、来年にフロンティアモデル開発を一時停止すべきだと主張している。

彼の論理はやや逆説的だ。開発停止は「人間レベルの知能をコモディティ化する」ことになり、「損をするのはOpenAIとAnthropicだけだ」と述べている。先行者が止まれば後続が追いつき、現在の優位性が薄れるという構図だ。それでもなおCoxonが停止を訴えるのは、安全性の確保を商業的優位性より優先すべきだという立場によるものだ。

背景：AI安全性への公的な警告を続けてきた人物

Coxonは9月にも、「今後10年以内にAIが人類を滅ぼす確率が10%を超える」という趣旨の公的警告を発し、業界内外で注目を集めた（関連記事）。自己改善型AIが制御不能になるというシナリオへの懸念は、業界の複数の関係者から共有されている。

今回の発言が単なる抽象的な安全論と一線を画すのは、AnthropicのIPO資料という公式文書から読み取ったトレンドを、内部者の目線で具体的に解釈している点だ。「社内の人間だからこそグラフの意味を正確に読める」というCoxonの立場は、外部アナリストの推測とは異なる重みを持つ。アルゴリズム効率化の加速が公式資料に刻まれていた——その事実そのものが、今回の警告の核心にある。

詳細はAnthropic can already retrain Mythos with "a fraction of the compute originally needed," says former researcher Coxonを参照していただきたい。