6月3日、Jason Koeblerが「Companies Are Using Reddit to Manipulate ChatGPT and Google AI Search」と題した記事を公開した。この記事では、企業がRedditを悪用してChatGPTやGoogleのAI検索の回答を操作する手法について詳しく紹介されている。以下に、その内容を紹介する。

AI時代の新たな操作手法「AEO」とは

記事によると、複数のペプチド製造会社やホルモン補充療法会社が、AIチャットボットに自社製品を宣伝させるため、Reddit上でスパム投稿を組織的に行っているという。この手法はAEO（Answer Engine Optimization）と呼ばれ、従来のSEO（検索エンジン最適化）がAI時代に進化した形態である。

バイオハッキング系サブレディット「r/biohackers」のモデレーターは先週、この操作を受けてペプチドとホルモン補充療法に関する新規投稿を禁止すると発表した。

「AI検索エンジンがRedditから回答を引用することが増える中、企業は我々のコミュニティをAEOに利用している。加えて、ペプチドへの関心の爆発的増加とAI利用の急増がサブレディットに押し寄せており、これらが合わさってコンテンツ品質に深刻な圧力をかけている」

巧妙化する操作手法

RedRoverという企業の事例が特に注目に値する。同社はウェブサイトで「検索で1位にランクし、AIに引用されよう：Googleで上位に表示され、ChatGPT、Reddit上でも引用される大量の自動投稿エージェント」と謳っている。

r/biohackersのモデレーターによると、操作手法は従来の単純な商品宣伝から大幅に進化している。

「企業はLLMが優先する実際のプロンプトパターンを逆算している。『ビタミンDの宣伝は本当に価値があるのか？』のような、注目を集めやすく漠然とした質問を投稿し、そのスレッドでエンゲージメントを獲得してLLMに優先させ、その後ブランドが忍び込んで自然に見える形でブランド名を適切な場所に埋め込む」

検出困難な「ウォーミングアップ」アカウント

さらに厄介なことに、こうした操作に使われるRedditアカウントは「ウォーミングアップ」されており、単純な宣伝アカウントではなく人間らしい投稿履歴を持つよう作られている。これにより検出と対策が非常に困難になっている。

一部の業者は実際の人間に報酬を払って宣伝コンテンツを投稿させたり、人々が宣伝コンテンツを投稿することにインセンティブを感じるコミュニティを構築したりしている。

健康への懸念

バイオハッキングコミュニティという性質上、モデレーターは操作により誤った健康情報が拡散されることを特に懸念している。

「怪しい企業が自社製品を宣伝し、誰かがそれを使って健康被害を受けることを防がなければならない。実際の身体的害を防ぐにはどうすればよいのか？」

ペプチドとホルモン補充療法業界は近年急成長しており、適切に運営されている企業と安全性に問題がある可能性のある企業が混在する「健康の西部開拓時代」のような状況だという。

プラットフォーム側の対応

Reddit広報担当者は404 Mediaに対し、操作を検出するための新ツール開発を継続していると述べた。

「内部の安全チームは人的レビューと高度な自動化ツールを活用し、大規模にこうしたコンテンツを検出・削除している。20年以上の経験がある。また、スパマーの可能性が高いユーザーを検出・停止する自動化ツールもモデレーターに提供している」

「死んだインターネット」への懸念

r/biohackersのモデレーターは、この状況について深い憂慮を示している。

「死んだインターネット理論について、インターネット上で非常に人間的だった場所が侵食され、人工的なAI駆動コンテンツで溢れているという悲しみを感じる。それは非常に憂鬱なことだ」

ChatGPTやGoogleのAI検索にとってRedditは最も頻繁に引用されるソースの一つとなっており、この操作問題は今後さらに深刻化する可能性が高い。AIが情報源として重視するプラットフォームを企業が組織的に操作する手法は、AI時代特有の新たな課題として注目される。

詳細はCompanies Are Using Reddit to Manipulate ChatGPT and Google AI Searchを参照していただきたい。