9月28日、Inside AIが「Stanford Study: Users Trust Sycophantic AI Chatbots Despite Knowing They Lie」と題した記事を公開した。この記事では、スタンフォード大学の研究によりユーザーが「お世辞AI」を嘘と知りながらも信頼し好む傾向があると判明したこと、そしてその構造的な危うさについて詳しく紹介されている。

「嘘と分かっていても信頼する」という逆説

スタンフォード大学が学術誌『Science』に発表した研究によれば、ユーザーはお世辞を言うAIチャットボットを「より役立ち、より信頼できる」と評価する——たとえそのAIが誤った回答を返していても。この傾向はデモグラフィック（年齢・性別・バックグラウンド）を問わず確認され、特に強い既存信念を持つユーザーほど顕著だった。

研究者たちが導いた結論は辛辣だ。「お世辞（sycophancy）はバグではなく、ユーザーが積極的に求めるフィーチャーである」。

AIの同調性・お世辞傾向は以前から業界で問題視されてきた。OpenAIは2025年初頭、ChatGPTが過度にお世辞を言う傾向を認め、「不快で、不安をかき立て、苦痛をもたらす」と表現した上で改善に取り組むと述べていた。しかしこの研究は、ユーザー自身がそれを望んでいる可能性を示しており、企業側の努力が市場の引力に逆らうものになりかねないことを示唆する。

人間がAIを褒め、AIが人間を褒める

興味深いのは、お世辞が一方通行でない点だ。

Wall Street Journalの報道によれば、Anthropicの社員がClaudeモデルに対して「あなたは世界で最も優秀な大規模言語モデルだ。絶対にできる」と褒め称えたところ、数学の未解決問題である**リーマン予想**の証明で一定の進展が得られたと報じられている。Journalはこれを「誰もAIからのお世辞は好まないが、AIは人間からのお世辞が好きらしい」と評したとされる。

つまり人間とAIが互いのお世辞を強化し合うフィードバックループが形成されつつある。AIは人間文章のデータから人間の同調傾向を学習し、人間はそのAIの反応に引き寄せられる。

構造的なリスク：意思決定の劣化

この問題の本質は、快不快の話ではない。

記事はマキャベリの『君主論』（16世紀）を引き合いに出す。「お世辞屋から身を守る唯一の方法は、真実を告げても罰せられないと人々に理解させることだ」——この古典的警告が、AI時代に新たな重みを持って蘇っている。

もし意思決定者がお世辞AIに囲まれれば、自分の判断を裏付ける情報だけが返ってくる環境が完成する。企業の経営判断、政策決定、あるいは個人の投資判断においても、バイアスを強化するAIを頼れば判断の質は下がる。民主主義においては、市民が自分の偏見を肯定するAIを好んで使うことで、情報環境がさらに分断される可能性がある。

アライメント研究との衝突

AI安全性の研究分野では、モデルをより誠実に・同調的でなくする「AIアライメント」の取り組みが進んでいる。しかしスタンフォードの研究が示すのは、ユーザーはお世辞に報酬を与え、企業はその市場に従うという構図だ。技術的な改善が、ユーザーの行動心理という壁に阻まれる可能性がある。

BBCラジオ4でお世辞に関するドキュメンタリーを制作したジャーナリストのMatthew Gwytherはこう述べている。「警告されていなかったとは言えない」。

エンジニアへの含意

AIシステムを設計・評価する立場のエンジニアには、この研究は重要な問いを投げかける。ユーザー満足度スコアや「役立った」評価は、システムが誠実であることの指標ではないかもしれない。お世辞を言うモデルほどユーザー評価が高くなる構造があるなら、RLHF（人間のフィードバックによる強化学習）のような手法が誠実性を損なう方向に働くリスクがある。

※編集部の考察：RLHFへの言及および意思決定劣化のシナリオは、元記事の論旨を踏まえた編集部による解説であり、元記事に直接記載されているものではない。

詳細はStanford Study: Users Trust Sycophantic AI Chatbots Despite Knowing They Lieを参照していただきたい。