9月22日、AIアライメント研究者のNathan Lambertが「Debating RSI, the US-China Gap, and Jaggedness with JS Denain of Epoch AI」と題した記事を公開した。AIがAI研究を加速し、その加速がさらなる加速を生む「再帰的自己改善」は、本当に始まりつつあるのか——AIの能力計測を専門とする研究機関Epoch AIのJS Denainを迎え、楽観論・悲観論の双方が飛び交う現在地を丁寧に解きほぐした対話である。

RSIはどこまで来ているのか

今AI業界で最も論争的なテーマのひとつがRSI（Recursive Self-Improvement：再帰的自己改善）だ。AIがAI研究を加速させ、その加速がさらなる加速を生む——というフィードバックループが、いつ、どの程度の強度で始まるのかをめぐる議論である。

OpenAIとAnthropicはそれぞれRSIに関するブログ記事を公開している。JSはそこで示された証拠について、「AI能力の自己持続的な加速や、AIリサーチャーの仕事の完全自動化が差し迫っているという強い根拠にはならない」と評価する。

ただし、OpenAIのブログに掲載された1つのデータは目を引く。研究者によるCodexへの支出が月次で2倍ペースで増加しているという指標だ。JSはこれを「研究者がAIから大きな価値を得ている可能性を示す証拠」とは見るが、6ヶ月以内にソフトウェア知能爆発が起きるという根拠とまでは言えない、というのが彼の立場だ。

一方、Nathanはラボ内部の人間が「公開情報より遥かに不安を感じているように見える」という点を指摘し、そのギャップがどこから来るのかを問う。JSの見方は、「ラボ内部には事前学習チームのコンピュートマルチプライヤーなどの内部KPIがあり、それが急激な動きを見せている可能性はある。ただし、最近の議論がそのメトリクスの異常を反映しているとは現時点では思えない」というものだ。

AI研究の「10倍生産性」は本当か

Dwarkesh PodcastでBeren・Johnらが語った「AI研究者の生産性が10倍になる」というシナリオについても、ふたりは深く掘り下げる。

Nathanは「アイデアから実験・検証までのサイクルが10倍速くなる」という点には同意しつつ、「フィールド全体の理解の進展という意味での研究生産性が10倍になるかは別問題だ」と慎重だ。彼のアナロジーは明快で、「博士課程の学生は10倍生産的になるかもしれないが、指導教員の研究アジェンダが10倍速く進むわけではない」という。

JSもこの観点を補強する。OpenAIの調査データによると、エンジニアリングタスクやトラブルシューティングではAI利用が顕著に増加しているが、「どのコンピュートをどの研究に割り当てるか」といった高レベルの戦略的意思決定では、AIによる大きな向上が見られないという。個々の研究者の生産性が上がっても、ボトルネックがコンピュートや組織にある限り、企業全体のアウトプットが同じ倍率で伸びるとは言えない——これがふたりの共通認識だ。

米中AIの能力格差と蒸留の役割

「中国のモデルはどれだけ遅れているか」というトピックも議論された。JSはEpoch AIでの分析に基づきながら、格差の実態と、その格差を縮めるひとつの要因としてディスティレーション（知識蒸留）の役割を検討する。蒸留とは、大規模な「教師モデル」の出力を使って、より小さな「生徒モデル」を効率的に訓練する手法だ。DeepSeekをはじめとする中国モデルがこの手法を積極的に活用することで、フロンティアモデルとの差を一定程度埋めてきたという見立てである。

さらに、中国のAIラボの求人情報が内部状況を示す手がかりになるという視点も登場する。公開された求人票からラボが何を優先しているかを読み解くアプローチは、情報が限られる中国AIの実態把握に有効だとJSは示唆する。能力格差の大きさそのものより、その格差がどの速度で縮まりつつあるかが、今後の地政学的リスク評価において重要な変数になるというのがふたりの共通した問題意識だ。

オープンモデルとクローズドモデル、どちらが安全か

安全性の観点でも対立軸がある。オープンモデル（重みを公開するモデル）とクローズドモデル（APIのみ提供）のどちらが社会的に安全か、という問いだ。この議論はLlamaやMistralなどのオープンウェイトモデルが普及するなかで、業界全体の重要な論点になっている。

JSはEpoch AIでの研究を踏まえ、単純な「公開＝危険」「非公開＝安全」という二項対立に懐疑的だ。モデルの重みが公開されても、それを実際に悪用できる技術的障壁はなお高い。一方でクローズドモデルも、APIを通じた間接的な利用や、将来的な漏洩リスクを完全には排除できない。Nathanは、どちらの立場をとるにせよ「能力水準がどこにあるか」によってリスクの性質が根本的に変わると指摘する。現状のモデルで語られるリスク議論が、1〜2世代後のモデルにそのまま適用できるとは限らない——という留保が、この節の議論全体を貫いている。

「ジャギーさ」という視点

タイトルにある「Jaggedness（ジャギーさ）」は、AI能力の進歩が滑らかな曲線ではなく、領域によって凸凹しているという性質を指す。あるタスクでは劇的に向上するが、別のタスクでは停滞する——この不均一な進歩の構造をどう読むかが、将来予測の精度に直結する。

JSが語る「能力至上主義（capabilities theory of everything）」的な立場では、AI能力がどこまで、どれだけ速く拡大するかが、経済成長・リスク評価・政策立案のすべての主要変数となる。具体的な到達点のひとつとして、AI 2027シナリオ——AIが工場を管理し、ロボティクスが急速に普及し、科学的進歩が加速する世界——が参照点として挙げられている。

ジャギーさの問題が厄介なのは、「あるベンチマークで人間を超えた」という事実が、隣接タスクへの汎化を保証しないことだ。ベンチマークの選び方次第でモデルの印象が大きく変わるという計測上の課題は、Epoch AIが継続的に取り組んでいるテーマでもある。

ポッドキャストでは他に、Epoch AIの組織論やフロンティアモデルのポストトレーニング手法についても議論されている。不確実性を正直に認めながら、現時点での最善の観測を言語化しようとした対話だ。

詳細はDebating RSI, the US-China Gap, and Jaggedness with JS Denain of Epoch AIを参照していただきたい。