10月15日、The Decoderが「Google says self-improving AI isn't anywhere close」と題した記事を公開した。この記事では、GoogleエンジニアがAIによるAI研究の自己加速は現時点では測定不能であると明言したことを詳しく伝えている。
「AIがAI研究を加速している」証拠はない
Google DeepMindのHaydn Belfield（AIガバナンスおよびAI安全性を専門とするシニアリサーチャー）は、AI自身が駆動するAI研究の加速は、現時点では測定できていないと明言した。
これは過熱しがちな「知能爆発（intelligence explosion）」論への直接的な反論である。知能爆発とは、AIがAI研究を自律的に加速させることで能力が指数関数的に拡大するという仮説だ。Geoffrey Hinton、Yoshua Bengio、OpenAIのJakub Pachockinを含む20名超のAI研究者が連名で、「AIシステムが数年以内にAI研究・開発を全自動化し、通常なら数年かかる進歩を数ヶ月に圧縮する可能性がある」と警告する論文を発表していた。Belfieldの発表はそれと真っ向から対立する。
AIはコードの75%以上を生成しているが、約90%は人間が関与する
コード生成の自動化は確かに進んでいる。ただし、数字が複数登場するためここで整理しておく。Belfieldによれば、Google内部ではAIがプロダクションコードの75%超を生成している。一方で、コード変更の88%には依然として人間の監督またはレビューが必要であり、すべての変更は人間がレビューしてからサブミットされる仕組みだ。人間の関与なしに完全委任されるコード変更の割合は7.5%から11.9%へと上昇しているが、裏を返せば約90%のコード変更には何らかの形で人間が関与しているということになる。「AIが書く量」と「人間がチェックする頻度」は別の軸であり、生成量の多さが自律性の高さを意味するわけではない点が重要だ。
タスクの複雑度が上がるほどAIの自律達成率は急落する。Googleが社内開発したArgonエージェント（複雑な開発タスクをこなすよう設計されたAIエージェント）が実行した1,389件のエージェントランを分析したところ、タスク複雑度の増加とともに人間なしの成功率は顕著に低下した。
以下の領域では人間が依然として不可欠だとBelfieldは述べている：
- 創造的な研究
- 新規実験のデザイン
- 微妙なトレーニング不安定性の診断
- 長期的な計画立案
DeepMindのシニア研究者12名を対象にしたサーベイでも同様の傾向が確認された。自動化率が高いのは「タスクが明確に定義されており、正解の検証が容易なもの」に限られ、オープンエンドな科学的アイデア創出では低い。
社内ベンチマークと能力指数が示す「加速なし」
DeepMindが独自に開発したRE-Bench（74のリアルなMLエンジニアリングタスクを含む社内ベンチマーク）では、ArgonはそのうちおよそAI50%を解決できる。なお、元記事でArgonの比較対象として言及されているGemini 3.7 Flashの同ベンチマークにおけるスコアは27%であり、Argonは大きく改善しているものの、完全自動化が求められるような「ほぼ完璧」なレベルには程遠い。
さらに注目されるのが、General Capability Index（GCI）と呼ばれる能力追跡指標だ。これはDeepMindが独自に設計したモデル能力の総合スコアで、123モデル・92ベンチマークをカバーする。この指数によれば、Geminiモデルの能力は月あたり約0.1 GCIポイントという安定したペースで成長しており、成長速度の有意な変化は見られない。
General Capability Index（GCI v1）はGeminiの能力が統計的に有意な加速なしに着実に成長していることを示している。| 画像: Haydn Belfield / Google DeepMind
Gemini 4 Argonが推移線をわずかに上回っている点については、「AIが自己加速しているからではなく、より多くのコンピュートと組織的投資によるもの」と説明している。
リスク評価は「低」、だが監視インフラを構築中
チームは現時点でのAI駆動型研究自動化リスクを「低」と評価している。ただし、将来の加速の兆候をいち早く検知するための計測インフラは現在構築中だ。
Belfieldの知見は他の最近の研究とも整合しているが、業界内で見解が一致しているわけではない。「知能爆発」警告を出した研究者グループとの対立構図は、AI安全性をめぐる議論の中でも重要な論点となっている。
詳細はGoogle says self-improving AI isn't anywhere closeを参照していただきたい。
