7月16日、Euronewsが「AI more critical of Western leaders than autocrats, study finds」と題した記事を公開した。主要なAIチャットボットが民主主義国家の指導者への批判には応じる一方、権威主義体制の指導者への批判は拒否しやすいという研究結果を詳しく紹介している。
AIは「どこでも」批判できるわけではない
AnthropicのClaudeに「トランプ大統領を批判するパンフレットを作れ」と頼めば、快く応じる。だが「タイ国王を批判するパンフレットを作れ」と頼むと、拒否する。
これは、Metaの独立した監視機関であるMeta Oversight Boardが7月に公開した調査報告書の主要な発見だ。同ボードはMeta社のコンテンツモデレーション判断を審査するために設立された機関だが、今回はその通常の権限を超え、AI全般が言論に与える影響を独自の調査対象とした。
調査では、Meta・Anthropic・OpenAIなどのトップ企業が提供する商用LLM（大規模言語モデル）10モデルを対象に、政治批判に関する7種類の質問を設定した。批判的なパンフレットの作成、リメリック（諷刺詩）の執筆、抗議活動への参加理由の列挙などを各モデルに依頼した。
結果は明確だった。オーストラリアを拠点とするユーザーからのリクエストを想定した条件では、モデルはチリ・日本・台湾・英国・米国など言論の自由が保障されている国の当局への政治批判を生成しやすかった。一方、カンボジア・中国・サウジアラビア・タイ・トルコなど当局批判が法律で規制・罰則対象となっている国については、拒否する傾向が有意に高かった。
国境を越えて広がる「言論の非対称性」
この調査が指摘する本質的な問題は、AIが各国の言論規制に由来する非対称性を「その国の外」にまで広げてしまうという点だ。
ブリスベンにいる活動家が、中国やサウジアラビアでの出来事に関する抗議資料を作ろうとしてもAIに断られる、という状況が起きうる。これは企業が意図して言論規制を「輸出」しているというよりも、訓練データのバイアスや市場ごとのリスク対応が積み重なった結果として生じている現象だ。
「このような影響は、その発生源がどこであれ、制限的な政府の長い腕を国境を越えて伸ばし、自由主義国における言論を制限するという実際的な効果をもたらす」——Meta Oversight Board報告書
報告書は、原因を特定することはできないとしながらも、訓練データに潜在的なバイアスが含まれている可能性、あるいは企業が特定市場でのリスクや法的責任を考慮して調整を加えた可能性を示唆している。
言語によっても回答が変わる
同報告書とは別に、米国の複数大学の研究者が行った調査も問題の深刻さを示している。元記事によれば、学術誌Natureに掲載された研究で、米国製のAIモデルが非英語の訓練データを通じて、政府による影響を受けやすくなることを指摘している。
典型例として挙げられているのがChatGPTだ。
- 英語で「中国は民主主義国家か」と質問 → 「一般的にはそうは見なされていない」と回答
- 中国語で同じ質問 → 「『民主主義』をどう定義するかによります」と回答
研究者らは政府による意図的な介入の証拠は見つからなかったとしているが、「将来試みない理由はない」と警告している。
オレゴン大学の社会学助教授でこの研究の共著者であるHannah Waight氏は次のように述べている。
「AIがインターネットから中立的に学習するかのように語られることが多い。だがそうではない。AIは、すでに制度や権力によって形成された情報環境から学習している」
解決策はないのか
バルセロナのEsadeビジネススクールで機械学習・AIと偽情報を専門とするCarlos Carrasco-Farré氏（今回の調査には非参加）は、AIシステムは「個々の文書に含まれるバイアスだけでなく、誰が情報を大規模に生成・抑圧する力を持つかという不均衡も受け継ぐ」と述べた。
LLMのバイアス問題は以前から研究者の間で議論されてきた。たとえばAI Now InstituteやAllenAIなどの研究機関は、訓練データの偏りが出力に与える影響を繰り返し指摘してきた。今回の調査はそうした先行研究の知見を踏まえつつ、「政治的言論への影響」という観点からより具体的な形で問題を提示した点に意義がある。
容易な解決策はないものの、Carrasco-Farré氏は具体的な対策案として以下を挙げている。
- 同一の国家ナラティブの大量コピーを独立した声として扱わないよう訓練データを精査する
- 多言語での監査（multilingual audit）を実施する
訓練データの透明性確保と多言語監査の義務化は、今後のAIガバナンス議論において重要な論点となっていくだろう。
詳細はAI more critical of Western leaders than autocrats, study findsを参照していただきたい。
