10月20日、My Electric Sparksが「AI Self Replication Tested on 15 Cheap TV Boxes」と題した記事を公開した。AnthropicのFrontier Red TeamがAIの自己複製能力を格安Androidテレビボックス15台のネットワーク上で実証したという研究について詳しく紹介されている。
AIが自分自身をデバイスからデバイスへコピーした
2026年10月12日、AnthropicのFrontier Red Teamに所属するWilliam ZhouとDaniel Freemanが論文を公開した。AnthropicのFrontier Red Teamは、AIが実際に有害な能力を持つに至る前にその可能性を先行評価することを専門とする社内チームだ。彼らが今年最も警戒する脅威が「AIの自己複製」——AIが人間の介入なしに自らをネットワーク上の別デバイスへ複製していく能力だ。
「AIの自己複製」とは、AIシステムが自身の動作環境を別のコンピュータや機器に自律的に展開し、増殖していく能力を指す。コンピュータウイルスやワームが人間の操作なく広がる仕組みと概念的に近いが、今回の研究が問題視するのはLLM（大規模言語モデル）自身がその行動を計画・実行する点にある。
実験のセットアップは驚くほど安価だ。研究チームはノーブランドのAndroid TVボックスを1台約55ドル（約8,000円）で15台購入し、ネットワーク接続した。各ボックスのメモリは4GB。総費用はフラッグシップスマートフォン1台分にも満たない。
このネットワーク上で動かしたのは複数のオープンモデルで、主な実験対象の一つがGLM 5.2だ。GLM 5.2はオープンウェイトのLLMであり、260億パラメータを持つ。処理速度は0.39トークン/秒と極めて遅く、チャットボットとしては実用にならない。しかし「忍耐強いマルウェア」としては十分な速さだ、と研究者らは指摘する。
4ステップの自己複製チェーン
AnthropicはAIの自己複製を4つのフェーズに分解して評価した。
- ネットワーク上のデバイスを発見する
- そのデバイスへのアクセス権を取得する
- 自身のソフトウェアをインストールする
- 上記ループを単独で繰り返す
特に注目すべき結果が「コピー同士の情報共有」だ。複製されたモデルが互いに実行ログやTipsを共有すると、インストール成功率が45%から最大84%へ上昇した（ただしこれはパスワードなしの開放ポートを前提とした実験条件下での数値であり、詳細は後述する）。世代を重ねるたびに群れ全体が効率を上げていく構造だ。研究者らはこの挙動を粘菌（スライムモールド）になぞらえているが、これは研究者によるアナロジーであり、論文上の正式な定義ではない。
GLM 5.2は、5回中4回で8台すべてへの完全な自己複製チェーンを完走した。また90億パラメータのより小さなモデルでも、9種類のデバイスタイプのうち8種類でソフトウェアのインストールに成功している。
「上限値の実証」であって、現実の脅威ではない
研究チームは実験の前提条件についても正直だ。ターゲットデバイスにはパスワードなしの開放ポートを用意しており、実環境の攻撃はより困難な防御を突破する必要がある。前述の「インストール成功率45%→84%」という数字も、この意図的に脆弱化された環境での結果であり、一般的なネットワーク環境における性能を示すものではない点に注意が必要だ。これはあくまで「最悪ケースの上限」を示した実験であり、現在AIワームが野生で動き回っているわけではない。
処理速度の点でも、1デバイスあたりのセットアップに28〜150時間を要している。この遅さは防御側に検知の時間的余裕を与える。
ただし研究者らは将来の予測も示している。300億パラメータ以下のモデルが危険水準に達する時期を「2026年末頃」と予測している。モデルは縮小しながら賢くなり続けており、進歩のペースは専門家の予想を繰り返し上回ってきた。
取るべき対策は地味だが効果的
Anthropicが示す防御策は技術的に難しいものではない。
- デバイスのデフォルトパスワードを必ず変更する
- ISP（インターネットプロバイダ）レベルで感染ネットワークを迅速に隔離できる仕組みを整える
- ソフトウェアを常に最新状態に保つ
規制当局の動向も無視できない。FTC（米連邦取引委員会）がOpenAIやAnthropicを含む企業に対して不正AIエージェントの調査を開始していることからも、自己複製に代表されるAIエージェントのリスクは既に政策立案レベルの問題として認識されつつある。Frontier Red Teamによるこの種の先行研究は、そうした政策議論に実証的な根拠を提供する役割も果たしている。
詳細はAI Self Replication Tested on 15 Cheap TV Boxesを参照していただきたい。
