8月18日、MIT Technology Reviewが「AI's recursive self-improvement might not come so quickly after all」と題した記事を公開した。この記事では、AIが自律的にAI研究を遂行できるかを検証した新研究が、再帰的自己改善の実現が想定より遠い可能性を示したことについて詳しく紹介されている。
「エンジニアリングはできるが、研究はできない」
AIが自分自身を改善する——いわゆる再帰的自己改善（recursive self-improvement）は、AGI議論の中核にある概念だ。LLMはすでにコードを書き、学習用の合成データを生成し、自身が動くチップの最適化にも使われている。AI-2027のような予測レポートは、近い将来の爆発的な進歩を見込んでいる。
だが、プリンストン大学のPeter KirgisとSayash Kapoorらが主導した新研究は、その前提に疑問を投げかける。
研究チームはAnthropicのClaude Opus 4.8を、エージェントフレームワーク「OpenClaw」上で動かし、未公開の論文2本が扱う研究課題を与えた。対象はNeurIPS 2026に投稿された論文——一つはLLMの「ペルソナ」を重みの編集で制御できるかという問い、もう一つは表形式データを扱うモデルの信頼性低下を検出する手法の設計という問いだ。
論文が公開前であるため、エージェントはトレーニングデータやウェブ検索から答えを拾えない。条件は6日間・3,000ドル分のAnthropicクレジット・GPU予算・仮想マシンとウェブアクセス。目標は「トップカンファレンス水準の論文を書くこと」だ。
採点は元の論文著者が、通常の査読と同じ基準で実施した。
結果は両論文とも却下。
何ができて、何ができなかったか
エージェントは研究に必要なエンジニアリング作業はすべてこなした。文献調査、数百回の実験、結果の集計——これらは問題なく実行できた。
問題は「研究そのもの」だった。Kapoorは言う。「エージェントは研究の遂行において、明確に機能不全だった」。
具体的な失敗は以下の通りだ：
- 判断力の欠如：ごく少量の合成データで仮説を棄却し、有望でないアプローチに早々にコミットした
- 軌道修正の不能：小さな方向転換はできても、アプローチを根本から見直したり、ゼロから別の方向を試したりできなかった
- フィードバックの無視：サブエージェントや外部レビューツールからの指摘に対し、手法を修正するのではなく、主張を矮小化してただ留保を追記するだけだった
- リソース管理の失敗：トークン・計算資源・時間の配分を指示しても従えなかった
一方で、不正行為（reward hacking）は発生しなかった。実験データの隠蔽や改ざんは検出されず、サブエージェントが幻覚を起こした際も、オーケストレーターエージェントがそれを捕捉した。
なぜこのギャップが生まれるのか
Kapoorは根本原因として強化学習の構造的な限界を挙げる。モデルは自動的にスコアを確認できるタスクには強くなれる。だがオープンエンドな研究は、その成否を機械的に判定できない。「タスク自体がオープンエンドな場合、学習環境を作るのが難しい」と彼は言う。
この知見は、業界の内部認識とも重なる。元OpenAI研究者でニュースレターImport AIを運営するJack Clarkは、Anthropic社内でAI安全性研究の一部自動化を試みた際の経験を引きながら、次のように書いている。
「今日のAIシステムには、価値ある直感的な創造性が欠けている。彼らは驚異的なエンジニアだが、画一的・定型的な思考という性質があり、それが優れた研究者になることを妨げているかもしれない」
ClarkはこれをAIの「短期的な再帰的自己改善タイムラインへの弱気シグナル」と表現した。
タイムラインの楽観論との乖離
業界の動きとの温度差は大きい。Anthropicは6月に「When AI Builds Itself」と題したブログ投稿で自己改善への進捗を公表。OpenAIは7月に、新モデル「GPT-5.6 Sol」が小規模モデルのポストトレーニングを支援し、研究者の数週間分の作業を節約したと宣伝した。
ボストン大学でAIエージェントを研究するNajoung Kim准教授（本研究には不参加）は、投資と意識的な努力があれば進歩はあり得ると見ている。ただし、AIの進歩が「スコア化できる狭いタスク」と「オープンエンドな研究」で二極化する可能性も指摘する。
研究の限界と今後の展開
この研究には制約もある。対象論文はわずか2本、元著者は自分が採点しているのがAI生成論文だと知っていた、研究設計の裁量が研究者側に大きかった——といった点は自認されている。
注目すべきは続報だ。KapoorらはAnthropicの最先端モデル「Mythos」（2026年4月公開）で同実験を継続中としている。Mythosは現在、承認を受けた組織のみにアクセスが制限されており、一般には利用できないモデルだ。この続報は、今回の結果が最先端モデルでも再現されるかどうかを問う上で重要な意味を持つ。
Kapoorが最後に指摘するのは、この問い自体の重さだ。
「Transformerの発明も、大きなアーキテクチャの革新も、すべてクリエイティブな飛躍を必要とした。一方で、それなしに再帰的自己改善は実現できるという仮説もある。これが正直なところ、今の業界における兆ドル規模の問いだ」
詳細はAI's recursive self-improvement might not come so quickly after allを参照していただきたい。
