10月28日、Digital Trendsが「AI bots are now trying to sabotage public health policies, like banning disposable vapes」と題した記事を公開した。英国政府の公式パブリックコンサルテーションに寄せられた回答の76%がAIボットによる不正回答であり、それを除外すると民意がほぼ完全に逆転していたという、民主的意思決定プロセスへのAI介入を示す初の文書化事例を報じている。

AIボットが公衆衛生の協議を"乗っ取った"

英医学誌「BMJ（British Medical Journal）」に掲載された分析によると、AIボットが市民の健康リスクに関わる公共政策に影響を与えるために実際に投入されていたことが判明した。

舞台となったのは2023年に英国で実施された公式パブリックコンサルテーション（政府が政策立案に際して市民の意見を集める手続き）だ。テーマは使い捨て電子タバコ（ディスポーザブルベイプ）の販売規制など。英国保健・社会福祉省（DHSC）には合計118,756件の回答が寄せられた。

ところが研究者が回答内容を分析したところ、「規制に反対する回答が圧倒的多数を占める」という不自然なパターンが浮かび上がった。精査した結果、全回答の76%がボットによる不正回答と判定された。

研究者らがボット判定に用いた主な手がかりは、回答の一様な文体・構文の繰り返し、特定設問への極端な集中、提出タイムスタンプの不自然な集積といったパターンだ。人間の回答に見られる自然なばらつきが著しく欠けていた点が決め手となった。

さらに奇妙な点がある。不正回答のうち90,835件中90,833件が、「使い捨て電子タバコの販売を制限すべきか」という設問1問にのみ回答していた。特定の政策に特化して大量の反対意見を注入する意図が透けて見える構造だ。

不正回答を除外すると、民意は真逆だった

ボット生成の回答をすべて除外して再集計したところ、実際の回答者の79.6%が販売規制に賛成していた。AIボットが介入した結果、民意はほぼ完全に反転して政府に伝わっていたことになる。

研究者らはこう記している。

「これは、正式な公衆衛生協議において大規模な自動化・ボット介入が確認された、初の文書化事例である」

また、今回の手口はかつてのタバコ産業や大手テクノロジー企業が用いてきたロビイング戦略との類似性も指摘されている。研究者らはプレスステートメントの中で次のように述べた。

「ボット回答の規模と方向性の一貫さは、組織的なキャンペーンを示唆しており、タバコ産業が大規模な組織的提出によってパブリックコンサルテーションを操作しようとした過去の証拠と符合する」

なお英国政府は当該協議の結果を受け、2024年に使い捨て電子タバコの販売禁止を含む規制強化の方針を発表しており、ボット介入が政策決定に与えた実質的な影響については引き続き議論が続いている。

誰がやったのかは不明、しかし手口は明白

研究者らは今回の不正回答の発信源を特定できていない。ただし手口の構造は単純だ。人間が回答しているように見せかけながら、AIで大量生成した回答を公式の意見募集フォームに投入する。テキスト生成AIの普及により、こうした操作のコストと技術的ハードルは急速に低下している。

類似の手口はすでに米国でも確認されている。米国連邦通信委員会（FCC）がネット中立性規則の廃止をめぐる意見公募を行った際、数百万件ともいわれる偽のコメントが大量提出されたことが問題となり、その一部にAI生成テキストが含まれていた疑いが指摘されている。公共政策協議へのボット介入は、英国固有の問題ではない。

AIの悪用リスクといえばバイオウェポン合成支援などが注目されがちだが、今回の事例が示すのはより"地味"で検出しにくい脅威だ。民主的な意思決定プロセスそのものをAIで静かに歪めることができる、という事実である。

銀行・政府・民間企業はいずれもAIを用いた攻撃の増加を警告しているが、公衆衛生政策の協議がターゲットになったことが文書として記録されたのは今回が初めてとなった。研究者らは、今後のパブリックコンサルテーションにおけるボット検出の仕組みを制度として整備する必要性を訴えている。

詳細はAI bots are now trying to sabotage public health policies, like banning disposable vapesを参照していただきたい。