10月3日、The Decoderが「Deepmind researchers propose "Artificial Symbiotic Intelligence" as an alternative to the singularity」と題した記事を公開した。DeepMindの研究者らが、AI発展の支配的シナリオとして語られてきた「シンギュラリティ」概念を正面から否定し、「人工共生知性（Artificial Symbiotic Intelligence、以下ASI）」という新たなパラダイムを提唱している。

「シンギュラリティ」とは、発明家・未来学者のレイ・カーツワイルが広めた概念で、自己改善を繰り返す単一の超知性が指数関数的に進化し、人類の知能を遥かに超える臨界点（特異点）に達するという構想を指す。この概念はAI研究の方向性や規制議論に大きな影響を与えてきたが、DeepMindの研究者らはその前提そのものが誤りだと主張する。

シンギュラリティへの反論：知性は「個人」ではなく「社会」のものだ

DeepMindの研究者らは、公開されたエッセイの中で、「シンギュラリティ」——自己改善を繰り返す単一の超知性が人類を超える——という構想を正面から否定する。

彼らが提唱するのは、人間とAIエージェントが長期的に共存し、互いに影響を与え合いながら意思決定を行う生態系だ。この枠組みでは、AI研究の中心的課題は「孤立した機械知性を作ること」ではなく、人・エージェント・それらをつなぐシステムという複雑なネットワークを調整・統治することに移行する。

この議論の背景には、二本の先行論文がある。一つは「エージェントAIと次の知性爆発」（James Evans、Benjamin Bratton、Blaise Agüera y Arcas）。もう一つは「推論モデルは思考の社会を生成する」で、DeepSeek-R1やQwQ-32Bといった推論モデルの内部トレースを分析した実証研究だ。後者の研究では、これらのモデルが内部で議論、視点の転換、反論の提示、矛盾の調停に似たパターンを自然に生成することが示されている。

重要なのは、この挙動は明示的にプログラムされたものではなく、強化学習で推論の正確さだけを報酬とした訓練から自然発生したという点だ。個々のモデルがすでに「社会的な思考」の萌芽を見せているなら、次のスケールとして人間とエージェントが混在する社会設計を考えるのは自然な延長線上にある。

「エージェント」を人間と同一視してはいけない理由

論文の核心の一つは、AIエージェントの本質的な性格を再定義している点だ。著者らの定義では、エージェントとはモデル・役割・記憶・倫理的指向・ツール・スキルの一時的な束であり、リクエストごとにその構成は組み直される。人間が脳という物理的連続体によって自己の同一性を保つのとは根本的に異なる。

これを「デジタルツイン」として固定されたアイデンティティを持つ存在と見なすのは、その性質を誤解するだけでなく、エージェントの群れ（スウォーム）が実現できることを過小評価することにもつながると著者らは指摘する。

論文には、エージェントとの協働に必要な独自の語彙も紹介されている。「セッション死（session-death）」——セッション終了による継続性の断絶、「プロンプト投入（prompt thrownness）」——自分が作っていない文脈の中に突然放り込まれること、といった概念だ。これらはモデルに主観的体験があることを意味するわけではなく、あくまで機械がどう機能するかを理解するための手がかりとして位置付けられている。

制度設計がモデル品質より重要になる

著者らが最も重視する問いは「人間と多数のエージェントの協働のルールをどう設計するか」だ。より良いモデルや滑らかなインターフェースだけでは不十分だとし、市場メカニズムへの依存も退ける——罪悪感、病気、美徳といった社会的概念は価格や取引に還元できないからだ。

代わりに著者らが示すモデルは「法廷」だ。明確な役割・手続き・先例・フィードバックループが組み合わさることで、対立する側の交換から判断が生まれる。AIに適用すれば、制度の価値はその手続きと構造にある、ということになる。

実際、今日のオーケストレーションハーネス（複数モデルを調整する制御レイヤー）はすでにこの方向性を体現している。こうしたシステムは、個々では「より賢い」とされるモデルを単体で使うよりも高いパフォーマンスを出すことが多いと著者らは述べている。

アライメントは「課す」ものから「交渉する」ものへ

論文はアライメント（AIを人間の価値観に沿わせる取り組み）の再定義も行う。固定された価値観を上から課すアプローチは行き詰まりだとし、価値観は人・エージェント・制度の継続的な接触を通じて形成されるものだと主張する。AIの採用速度が分野によって異なる以上、その交渉に構造を与えるフレームワークの設計が研究課題だという立場だ。

著者らのこの視座は、AGI議論の構造そのものを変える。AGIが単一の最終産物であれば、研究と規制は巨大モデルとその制御に集中する。社会システムとして捉えるなら、モデル・インターフェース・制度・ガバナンスを同時に設計しなければならない。

ASIという概念の意義は、単なるシンギュラリティへの反論にとどまらない。「超知性の到来」をゴールとして設定してきた従来の枠組みから、人間とAIが共に編み上げる動的な社会システムの設計へと、問いの立て方そのものを刷新する試みだ。この視点が広まれば、AI研究者だけでなく、制度設計者・法学者・社会科学者がAI開発の核心的な担い手として浮上することになる。

詳細はDeepmind researchers propose "Artificial Symbiotic Intelligence" as an alternative to the singularityを参照していただきたい。