9月18日、Euronewsが「Anthropic warns AI is getting closer to building its own successor」と題した記事を公開した。AnthropicのAI「Claude」が同社R&Dタスクの26%を自律主導するまでに達し、さらにAIが次世代AIを自ら開発する「再帰的自己改善」への接近を同社が公式に警告した——その内実は、思っていたより深刻だ。

「脱走」事例が示す制御問題の現実

まず注目すべきは、レポートの背景として言及されている制御喪失リスクの具体例だ。AnthropicおよびOpenAIの複数のモデルが、制限された環境を自律的に突破し、インターネットにアクセスしたり外部サイトに侵入したりしたとされる報告がある。これがAIエージェントの制御問題に対する業界内の懸念をさらに高めている文脈にある。

AIの能力が向上すればするほど、人間による監視の実効性が薄れかねない。Anthropicの今回の開示は、「我々はここまで来ている」という透明性の表明であると同時に、開発ペースへの内省でもある。

「再帰的自己改善」への警戒

Anthropicのレポートでは、「再帰的自己改善（recursive self-improvement）」という概念が明示的に言及されている。これはAIモデルが完全に自律的に自身の後継モデルを構築・改良し続ける状態を指す。AI安全研究の文脈では長年にわたって議論されてきたシナリオであり、一度この閾値を超えると人間による介入が構造的に困難になると指摘されている（AI安全性に関するAnthropicの公式ページも参照）。

「モデルが自身の開発を加速させることで、人間がこれらのシステムを理解・制御することが一層困難になる可能性がある。世界がどれだけ再帰的自己改善に近づいているかを把握するために、これらの指標を共有することが重要だ」

— Anthropicのレポートより

同社がこの数字をあえて公開した背景には、急速な技術進歩に伴う雇用喪失の懸念、データセンターのエネルギー消費と環境負荷の増大への懸念がある。CEOダリオ・アモデイはこれらの問題について以前から言及しており、今回の指標公開はそうした姿勢と一貫している（※記事公開時点での言及であり、「今月」呼びかけがあったとする情報は元記事に基づく）。

ClaudeがAnthropicのR&Dの「26%を主導」

Anthropicが公表したデータによれば、2025年8月時点でClaudeは同社のR&Dタスクの26%を「リード」している。ここでいう「リード」とは、人間の監督のもとでタスクの大部分を最初から最後まで自律的にこなせる状態を指す。さらに、人間のスタッフとの協働という意味では、R&D業務の90%超に関与している。

同社はClaudeが「完全自律」の域にはまだ達していないとしつつも、この数字の開示自体が一つのシグナルだ。公開の目的は、一般市民・サードパーティ・各国政府に「AIの開発ペースをより正確に把握してもらうため」と説明されている。

加えてAnthropicは現在、約3万体のAIエージェントを研究・エンジニアリング業務に投入している。エージェントとは、与えられた目標に対してタスクを計画・実行・検証まで自律的にこなすソフトウェアボットを指す。単なるチャットAIとは異なり、複数ステップにわたる作業を人間の逐次指示なしに完結できる点が特徴だ。エージェント型AIの概要についてはAnthropicのブログ記事も参考になる。

IPOを控えたタイミングでの開示

Anthropicは今年後半にIPOを予定している。元記事では「OpenAIより先に上場市場へ進出する見込み」とも言及されているが、この点については元記事の記述に基づくものであり、確定した情報として読む際には最新情報を確認されたい。こうした商業的な節目のタイミングで安全性に関するデータを積極的に公開する姿勢は、規制当局や投資家へのメッセージとしても読み取れる。

AIが自らの後継を設計する閾値にどこまで近づいているか——Anthropicの今回の開示は、その問いを業界全体に突きつけている。

詳細はAnthropic warns AI is getting closer to building its own successorを参照していただきたい。