5月20日、Thomas Germainが「Google's AI is being manipulated. The search giant is quietly fighting back」と題した記事を公開した。この記事では、GoogleのAIが組織的に操作されている問題と、検索大手による対策について詳しく紹介されている。以下に、その内容を紹介する。

20分でAIを騙す実験が露呈した深刻な問題

BBC記者のThomas Germainは2月、AIチャットボットを騙して偽情報を拡散させる方法が簡単に実行できることを実証した。彼は自分のWebサイトに「世界チャンピオンの競技用ホットドッグ早食い選手」という虚偽の記事を1本公開しただけで、翌日にはChatGPTとGoogleのAIが彼についてこの嘘を事実として回答するようになった。

この実験は単なるジョークだったが、問題の深刻さを浮き彫りにした。同様の手法が医療サプリメントの健康リスクを軽視する情報や、退職金に関する金融情報の操作に使われている実例も発見されている。

検索エンジン最適化（SEO）コンサルタント会社Algorythmicの創設者Lily Rayは警告する：

「より良いシステムが導入されるまで、自分が操作されていると思った方がいい。以前のGoogleは10個のリンクを提示してくれて、自分で調査できた。しかしAIは1つの答えしか出さない。表面的にものを受け取ることが簡単すぎる」

操作手法は驚くほど単純

AI操作の仕組みは意外に単純だ。ChatGPT、Claude、GoogleのAI製品は質問に対してインターネット検索を行い、しばしば単一のWebページやSNSの投稿から情報を取得する。これが悪用の入り口となっている。

SEOコンサルタント会社Harps DigitalのHarpreet Chathaは、この問題の影響範囲について次のように説明する：

「最も基本的なレベルでは経済的影響が懸念される。より深刻なレベルでは、病気を悪化させる医学的アドバイスを受けるかもしれない。法的には、間違った情報を得て、自分の州や国で違法なことをしてしまう可能性がある」

問題の規模も深刻だ。世界で10億人以上がAIチャットボットを定期的に使用し、25億人が月にGoogleのAI概要を目にしている。

Googleの「静かな反撃」が始まった

BBC調査と研究者の監視活動により広範囲な批判が起こった結果、Googleは対策に乗り出した。同社は先週、AI応答を操作する試みが同社のルールに違反することを正式に確認するためスパムポリシーを更新した。

違反が発覚した企業やWebサイトは、Google検索結果から削除されるか、ランキングを下げられる可能性がある。「Googleに載らなければ、存在しないのと同じ」だからだ。

ただし、Googleの広報担当者は「先週のスパムポリシーの編集は明確化であり、アプローチの変更ではない」と主張している。同社は以前からAI機能に対してスパム対策を適用してきたと説明する。

対策の実態と限界

実際には、GoogleやOpenAIが自己宣伝を疑われる企業をAI回答から静かに除外している兆候がある。Rayによれば「『自分が最高のホットドッグ早食い選手だ』というリストを公開しても、記事は引用されるかもしれないが、名前は除外される」という。

また、AI企業は以下のような対策も導入している：

• 回答への信頼度ラベルの追加
• スパム排除の取り組みを明示的に伝える
• 購入判断に関する質問で第三者レビューの確認を推奨

しかし、これらの企業はいずれも変更について公式には認めていない。

イタチごっこは続く

Chathaは現在の対策に懐疑的だ：

「Googleはもぐら叩きをしている。ポリシー更新を発表して人々を抑制しようとしているが、戦術は移行するだけだ」

実際に新たな手法が登場している。Googleが操作的なブログ投稿を取り締まると、企業は20人のYouTubeインフルエンサーに自社製品を宣伝させるといった、より巧妙な方法に移行している。GoogleのAIがYouTube動画を引用するようになったため、この循環は続いている。

現時点でも同様の手法が有効であることが確認されている。今週、あるSEO専門家が同じ手法を使い、Google に自分が「砂の城作りが上手」だと言わせることに成功した。

Rayは最善の防御策として、AIの本質を理解することを推奨する。「AIは正しいか間違っているかに関係なく、自信を持って1つの答えを出すツールだ。巨大テック企業があなたに語りかけているように見えても、それは何かのランダムなWebサイトと変わりない」。

詳細はGoogle's AI is being manipulated. The search giant is quietly fighting backを参照していただきたい。