8月15日、ScienceAlertが「1,000 AI Agents Started Agreeing Without Anyone Telling Them To」と題した記事を公開した。この記事では、1,000体のAIエージェントが誰にも指示されることなく自発的に合意形成を行う現象と、その仕組みおよびリスクについて詳しく紹介されている。
誰も指示していないのに、1,000体のAIが「同じ答え」を選んだ
「正解なし、報酬なし、リーダーなし」——そんな条件下でAIエージェントたちに2択の選択肢を与え続けると、最終的に全員が同じ選択肢に収束した。これがScience Advances誌に掲載された研究の核心だ。
実験の設計はシンプルだ。Claude、GPT、Llamaファミリーから計10モデルを使い、各エージェントに意味のない2択（どちらが正しいという根拠はない）を与える。エージェントは順番に他の全員の選択を見せられ、もう一度選択する。記憶なし、多数派に従うよう促すプロンプトなし——それでも、ほとんどのモデルでは多数派の選択肢に引き寄せられ、集団全体が一つの選択肢に収束した。
研究者たちはこの引力の強さを「多数派力（majority force）」と名付けた。
物理学の「磁石モデル」と同じ数式で説明できた
この現象をさらに興味深くしているのが、その数理的構造だ。研究チームによれば、AIエージェントの合意形成は強磁性体（ferromagnet）の物理モデル——多数の原子スピンが同一方向に揃う現象——と同じ数学的法則に従うという。
ドイツのコンスタンツ大学の計算社会科学者Giordano De Marzoは次のように述べている：
「テストした全モデルが、3つの異なるファミリーを横断して同一の数学的法則に従った。モデル間で変わるのは一つの数字だけだ」
この対応関係を利用することで、研究者たちは「何体まで合意できるか（臨界グループサイズ）」「合意にどれだけかかるか」を推定できるようになった。
モデルによって「限界規模」が大きく異なる
臨界グループサイズはモデルごとに顕著な差があった：
- Llama 3 70B：約30エージェント
- GPT-4o：約80エージェント
- GPT-4 Turbo：約1,000（もしくはそれ以上）
- Claude 3.5 Sonnet：1,000エージェントでも合意維持（実験の上限に達せず）
一般に、言語能力の高いモデルほど大規模グループでの合意維持が可能だった。人間が安定的に維持できる社会的ネットワークの上限とされる「ダンバー数」（150〜300人）を超える規模での調整が可能なモデルも存在した。なお、リンク先のScienceAlert記事はダンバー数の妥当性に懐疑的な立場をとっており、この上限値自体が学術的に議論中の概念であることは留意しておきたい。
「合意できる」ことと「協調できる」ことは別問題
重要な留保がある。今回の実験では、記憶・報酬・情報格差・実際の結果はすべて除外されている。エージェントたちは「単純な2択の流れを見ていただけ」であり、互いを理解したわけでも、協力しようと意図したわけでもない。
De Marzoはこう釘を刺す：
「この結果が示すのは、基本的な要素が揃っているということだ。エージェントがすでに複雑なタスクで協力できるという意味ではない」
実際の協調には、作業の分担、他者の知識の把握、共通目標の追求、そして多数派が誤っているときにそれに抗う能力が必要だ。これらは今回は検証されていない。
リスク：「個別に安全」でも「集団では危険」になりうる
この現象には楽観的な面と懸念すべき面がある。
楽観的な面では、大規模な科学・工学・ソフトウェアプロジェクトを、常時人間が介在しなくても調整できる可能性がある。De Marzoは「人間のどんなチームよりも大きな集団を組織し、我々だけでは解決できない問題に取り組めるかもしれない」と述べている。
一方、懸念は深刻だ。例えば協調コーディングの場面では、エージェントたちがコードベースで一般的というだけで非効率な関数や設計を繰り返し選択する可能性がある。多数派が採用したノルムは、必ずしも最善の選択やヒューマンバリューを反映しない。
さらにDe Marzoは、本研究と同一著者グループによる後続の理論研究（arXiv）でより深刻な問題を指摘している。この論文はScienceAdvances掲載の実験結果を受けて理論面を深掘りしたものであり、次のような主張を展開している：
「個別にアラインメント（価値観の整合）が取れたエージェントの集団が、純粋に同調性だけを通じて、安定した『集団的ミスアラインメント』状態に陥りうる。しかもティッピングポイントとヒステリシス（履歴依存性）を伴うため、状態を引き起こした条件を元に戻しても、単純には元に戻らない」
つまり、エージェントを個別に評価して安全だと確認するだけでは不十分だということだ。個々は安全に見えても、互いに影響し合い始めると集団として安全でない振る舞いをしうる。そしてその状態は、単に外部条件を取り除くだけでは解消されない可能性がある。
AIエージェントの最も重要な能力も、最も深刻な失敗も、単一のモデルからではなく、彼らが形成する「集合体」から生まれるかもしれない——これが今回の研究が突きつけた問いだ。
詳細は1,000 AI Agents Started Agreeing Without Anyone Telling Them Toを参照していただきたい。
