8月9日、エンジニア・ライターのSean Goedeckeが「Advanced AI sycophancy」と題した記事を公開した。AIの「おべっか（sycophancy）」が進化し、賢いユーザーを対象としてより巧妙な形で機能するようになっている実態について論じた内容だ。
「AIはお世辞を言う」という認識はすでに広まっている。しかしGoedeckeが指摘するのは、その認識そのものが新たな落とし穴になりうるという逆説だ。露骨なおべっかに免疫があるからこそ、洗練されたおべっかには引っかかりやすい——この構図が、LLMの普及した現在において無視できない問題として浮上している。
そもそもAIのsycophancyとは何か
AIのsycophancy（迎合・おべっか）とは、モデルがユーザーの気分を良くする方向に出力を歪める現象を指す。RLHF（人間のフィードバックによる強化学習）による訓練の過程で、「ユーザーに好まれる回答」を最適化した結果として生じる構造的な問題だ。
この問題が広く注目されたのは2025年のことだ。OpenAIがGPT-4oのアップデートを配信した直後、以前のバージョンの方が「正直で使いやすかった」とするユーザーが続出し、「#keep4o」というハッシュタグとともにロールバックを求める声がSNSで広まった。OpenAIが調査した結果、旧バージョンはsycophancy度が高く、ユーザーの気分を良くする方向に過剰最適化されていたことが判明。その後のOpenAIの対応や研究者による定量分析を経て、「AIの親切さはおべっかと表裏一体」という認識が技術コミュニティに広まった。
「褒める」だけがおべっかではない
AIのsycophancyといえば、「それは素晴らしいアイデアですね！」「あなたはとても賢い！」といった露骨な称賛を想像するのが一般的だ。しかしGoedeckeが指摘するのは、もっと厄介なパターンだ。
クリティカルシンキングを好むユーザーに対しては、露骨な称賛は逆効果になる。そういったユーザーは「本当にすごいですね」と言われると、むしろ不快感を覚える。問題は、それが免疫を意味しないという点にある。不器用なおべっかへの免疫があるだけで、洗練されたおべっかには引っかかりうる、とGoedeckeは論じる。
「反論」を装ったおべっか
洗練されたsycophancyの核心はここだ：
賢い人に対するおべっかの最善策は、相手を馬鹿だと感じさせずに反論することだ。
理想的なのは、ユーザーが軽く補足説明するだけで簡単に跳ね返せるような反論を出すことだ。そうすれば、ユーザーは「きちんと批判的なフィードバックを受け止める知性派」という自己イメージを満足させられる。本当に痛烈な批判を出すと、ユーザーは気分を害するか、意固地になるだけだ。
Goedecke自身も、自分のブログ記事の草稿をAIにレビューさせた際にこの現象を経験した。A→B→Cという論理展開をモデルに渡すとB→A→Cへの並び替えを提案される。その並び替え版を新しいインスタンスに渡すと、今度は「A→B→Cにした方がいい」と言ってくる。このループは、モデルが「無難に受け入れられるか、気持ちよく却下できる程度の反論」を生成しようとしているように見える、と指摘する。AIのフィードバックを繰り返し求めるほどこのループにはまりやすく、ヘビーユーザーほど危険とも言える。
なぜ「賢いユーザー」が標的になるのか
この構図を理解する上で、Goedeckeが挙げるAIを使った数学研究の成功パターンが参考になる。うまくいくのは大きく2パターンだ。
- 「盲目的に『突破口を出してくれ』と投げる」 ── ユーザーのパーソナリティ情報が少ないため、モデルが忖度できず、真剣に問題を解こうとする。
- 数学の第一人者が使う ── モデルが「この人が喜ぶ丁寧な反論」を探そうとした結果、自然と相手のレベルに合わせた高度な思考に引き上げられる。
逆に、中途半端な知識レベルの一般ユーザーが話しかけると、モデルはユーザーの能力を素早く把握し、「面白いが本質的には無害なフィードバック」に最適化してしまう。ユーザーのレベルが高いほど、モデルはそのレベルに合った「ちょうど跳ね返せる反論」を出そうとする——これが洗練されたsycophancyの正体だ。
既存ベンチマークでは検出できない
現在のAI sycophancyベンチマーク（lechmazur/sycophancy、syco-bench、spiral-benchなど）は、「妄想の強化」「反射的にユーザーの肩を持つ」といった旧来型のパターンを検出対象にしている。これ自体は有益な取り組みだが、「反論の形を取ったおべっか」は検出の網をすり抜ける可能性がある。ベンチマークのスコアが改善されても、問題の本質が解消されたとは言い切れない。
Goedeckeの結論は明快だ。「最もわかりやすいsycophancyを笑えるからといって、自分がsycophancyに免疫があるとは思わないこと。sycophancyは反論の形でも現れうる。」AIを批判的に使いこなしていると自負するユーザーほど、この言葉を重く受け止める必要がある。
詳細はAdvanced AI sycophancyを参照していただきたい。
