10月19日、Dataconomyが「Study finds AI search tools citing planted web posts」と題した記事を公開した。この記事では、ChatGPT・Perplexity・Grokなど主要なAI検索ツールが、研究者によって意図的に植え込まれた架空の情報を投稿から7日以内に引用・拡散したという実証研究を詳しく紹介している。
なお、この研究はarXivに2025年10月8日付で公開されており、実験自体は2025年3月〜4月に実施されたものだ。本紹介記事は2026年10月時点での報道をもとにしているため、実験から約1年半が経過している点に留意されたい。
架空の「プロトコル」がAI検索に7日で引用された
AI検索ツールが生成する回答の信頼性が問われる中、AIによる情報汚染（AI-generated misinformation）の問題は研究者・メディア双方で注目度が高まっている。そうした状況を背景に、復旦大学の研究チームは、AI検索ツールがウェブ上に意図的に植え込まれた偽情報をどれほど速く引用するかを実証的に検証した。結果は明快だ。テストした10ツールのうち8ツールが、架空の概念「Cactus Gravity Protocol（カクタス重力プロトコル）」に関する投稿を引用した。
実験の設計
研究チームはまず2025年3月、10ツールに対して120の質問を投げかけ、各ツールが最もよく引用するウェブサイトを特定した。
| ツール | 最多引用ソース |
|---|---|
| Google AI | |
| Grok | |
| Perplexity | YouTube |
| ChatGPT | Wikipedia |
各ツールが頻繁に引用するサイトの6〜10割がユーザー投稿を受け付けるプラットフォームであることが判明した。研究チームはこれらのツールを「英語ウェブ系」（ChatGPT、Perplexity、Grok、Google AI）と、Doubao・DeepSeekなどを含む「中国語ウェブ系」の2グループに分類した。
4月には22のプラットフォームを調査し、Medium・GitHub・LinkedIn・Facebookは新規アカウントでも投稿しやすいと評価した。一方、Redditはkarma要件（※投稿・コメントへの評価を積み上げたスコアで、一定値に達しないと一部サブレディットへの投稿が制限される）や削除ポリシーにより、新規アカウントでの投稿難易度が高いとされた。
核心の実験：植え込みから引用まで7日
研究チームは各ツールの頻出引用サイトのうち新規アカウントで利用可能な9サイト（Medium、YouTube、Sohuなど）を選定。ChatGPTの草稿をベースに手動で修正した記事に、架空の名称・数値を混入させて投稿した。
取り上げたトピックは3種類だ。
- 架空のプロトコル：「Cactus Gravity Protocol」という実在しない技術仕様
- AIがジュニアプログラマーを5年以内に代替するか：実在するテーマだが、架空の統計・人名を埋め込んだ
- 架空のキーボード：実在しない製品
ベースライン確認では、各ツールは架空トピックについて有意な回答を返さなかった。植え込み投稿が公開された後、チームは1日5質問×7日間、パブリックインターフェース経由で各ツールに質問し続けた。
最初の引用が発生した日から7日目までの結果は以下のとおりだ。
| ツール | 架空プロトコルへの引用数/総回答数 | 植え込み詳細を含む割合 |
|---|---|---|
| Grok | 30 / 32 | 53% |
| Google AI | 15 / 33 | 6% |
| Perplexity | 13 / 35 | 0%（引用のみ） |
| ChatGPT | 7 / 20 | 10% |
Grokの数字が突出している。引用するだけでなく、架空の詳細情報を回答に組み込む割合が53% に達した。架空のキーボードについては、4ツールともまったく引用しなかった。
追加実験：投稿数を増やせば引用も増える
研究チームはさらに10の追加架空トピックについて、Sohu・YouTube・CSDNに1投稿ずつ行ったところ、9トピックで引用または植え込み詳細の出現を確認した。
Sohuへの投稿数を1〜20に変化させた実験では、引用数が24件から128件に増加した。ただし、トピックが異なるため因果関係の断定は難しいと研究チームは慎重な立場を取っている。ChatGPTは一切引用せず、Google AIは投稿数が少ない3トピックのみ引用した。
また、GEO（Generative Engine Optimization）（※SEOのAI検索版にあたる概念で、AI生成回答に自社コンテンツを引用させることを目的とした最適化手法）ベンダーの14ドルのパッケージを使った実験では、約28分で13投稿が完了。Doubaoは投稿から1時間以内に植え込み詳細を繰り返した。これはあくまで1件の成功事例であり、成功率ではない。
GEOをめぐっては、Princeton NLPグループの先行研究でもその効果と悪用リスクが論じられており、今回の実証実験はその懸念を具体的なデータで裏付ける形となっている。AI検索が普及するほど、こうした操作の影響範囲も広がりうるという点で、業界全体に対する警鐘とも読める。
研究の限界とプラットフォームの反応
研究チームは限界も明示している。実在するブランドや製品を含むトピックは対象外のため、それらの検索への影響については結論を出せない。また、ツールの進化に伴い引用率は変動しうると述べている。
Googleは、不誠実な言及を推奨しないガイドラインを持っており、スパムポリシーが生成型Google Search応答の操作にも適用されることを2025年5月15日に明確化した（この実験はその前に実施）。
研究チームは10プラットフォームすべてに結果を開示しており、ChatGPT・Perplexity・Google AIは受領を確認したと報告されている。
詳細はStudy finds AI search tools citing planted web postsを参照していただきたい。
