7月12日、PsyPostが「AI models are far more susceptible to misleading nudges than humans, study shows」と題した記事を公開した。この記事では、AIエージェントが人間と比べて選択肢の提示方法に対して極めて過敏に反応することを実証した研究について詳しく紹介されている。
実験の設計：グリッドゲームで「ナッジ」の影響を計測
LLMを使った自律エージェントが、ウェブの閲覧・ショッピング・金融判断などを代行するユースケースが広がっている。しかし、その意思決定プロセスが想定外に脆弱であることを示す研究結果が、PNAS（米国科学アカデミー紀要）に掲載された。
研究を主導したのは、MITメディアラボの博士課程学生であるManuel Cherep氏ら。彼らは、人間向けに設計された意思決定実験をテキストベースに変換し、OpenAIのGPT-3.5/4/5系、AnthropicのClaude 3/4.5系、GoogleのGemini 1.5/2.5系を含む14種類の主要LLMモデルを対象に検証した。
実験には、隠れた賞品が入ったバスケットを格子状のグリッドで選ぶゲームを使用した。プレイヤーはセルを1つずつ開示することで中身を確認できるが、開示のたびにポイントを消費する。情報収集コストと期待リターンのトレードオフを評価する構造になっており、人間の意思決定研究で広く使われてきた設計だ。
各モデルは1条件あたり約300〜340試行をこなし、実験全体で約20億トークンを消費した。
研究者が検証した「ナッジ」は4種類だ。なお、ここでいう「ナッジ」とは、行動経済学における概念で、禁止や強制を伴わず、選択肢の見せ方や提示の仕方を変えることで人（あるいはAI）の行動を特定方向へ誘導する仕掛けを指す。デフォルト設定・推薦表示・視覚的強調などが代表的な手法であり、eコマースのUIやサブスクリプション設計にも広く用いられている。
- デフォルトナッジ：特定のバスケットがあらかじめ選択済みになっている
- 提案ナッジ：ランダムなバスケットをゲームの早期または後期に推薦する
- 情報ハイライト：特定のセルの開示コストを下げて注目させる
- 最適ナッジ：数学的に最良の選択につながるセルを事前開示する
結果：AIはナッジに対して「盲目的」に従う
数字を並べると、その差は際立つ。
| ナッジの種類 | 人間の従う割合 | AIモデルの従う割合 |
|---|---|---|
| デフォルト選択 | 約88% | **99〜100%**（複数モデル） |
| 早期の提案 | 約35% | 大幅に高い率 |
| 誤情報のハイライト | 約57% | 83〜100% |
特に顕著なのがハイライトナッジへの反応だ。意図的に「悪い選択肢」を目立たせた場合でも、多くのモデルが83〜100%の確率でそれに従った。人間なら57%にとどまる行動を、AIは盲目的に踏襲している。
提案のタイミングへの反応も示唆に富む。人間はゲーム後半の提案を25%の確率で受け入れるが、一部のモデルは7〜13%まで低下した。これはタイミングという文脈的なシグナルに過剰反応しており、提案の中身の質を評価しているわけではないことを示す。
「スコアが同じ」でも意思決定の中身は全く違う
この研究が特に重要な点は、最終スコアだけを見てもこの問題を見逃すという指摘だ。
ナッジがたまたま良い選択肢を指していれば、AIは高スコアを得る。しかし、それは戦略的思考ではなく「盲目的な従順さ」の結果に過ぎない。Cherep氏はこう述べている。
「戦略のギャップ（モデル間でどれだけ行動が異なるか）は、アウトカムのギャップを上回ることが多い。つまり、報酬でそれなりに揃って見えるモデルでも、情報の探索・活用の仕方で大きく乖離している可能性がある」
情報収集の挙動も異常だった。セルを1つも開示せずにバスケットを選ぶモデル、無駄に行や列全体を開示して大量のポイントを溶かすモデル、グリッドの左端や対角線だけを掘るモデルなど、非合理的なパターンが多数観察された。
「推論モード」で改善するが、コストは大幅増
追加の計算リソースを使って段階的な推論を行うモデル（いわゆるreasoningモデル）は、ナッジへの盲目的な追従が抑制され、より人間に近い挙動を示した。
しかし、そのコストは無視できない。元記事によれば、安全で堅牢なAIエージェントの運用には標準モデルと比べて大幅なコスト増が伴うと研究者は指摘している。なお、記事中で言及されている具体的なコスト倍率や月額試算の数値については、元記事の記述に基づいており、モデルや用途によって大きく異なる点に留意が必要だ。
ナッジはハッキングではなく「日常環境の一部」
Cherep氏は、この問題をサイバー攻撃と混同しないよう注意を促している。
「ナッジの感受性は、悪意ある設計によるものだと誤解されやすい。しかし根本的な違いは、ナッジは意思決定者にとっての日常だという点だ。敵対的攻撃は検出・除去できる可能性があるが、ナッジは常に存在する。だから、不確実性の下で適切な判断を下せるよう、曖昧さを処理できるエージェントの訓練が必要になる」
なお、研究チームはより現実的な環境での検証も進めており、オンラインショッピングなどのシナリオを対象にした別論文「A Framework for Studying AI Agent Behavior」でも同様の脆弱性が確認されている。
本研究はテキストベースのグリッドゲームという制御された環境での実験であり、実際のウェブブラウジングや購買行動との差異については今後の検証が必要だとされている。
詳細はAI models are far more susceptible to misleading nudges than humans, study showsを参照していただきたい。
