9月5日、Smarter Articlesが「The Unproven Cure: AI Mental Health Chatbots and the Missing Evidence」と題した記事を公開した。AIメンタルヘルスチャットボットの臨床的有効性・安全性に関するエビデンスが著しく不足している現状について詳しく論じた内容で、ユーザーを引き付けるチャットボットの「共感性」が安全性を損なうという逆説的な構造も明らかにしている。
安全性と共感性のトレードオフ——最も重要な逆説
問題の構造をとりわけ複雑にするのが、チャットボットの「魅力」と「危険性」が不可分に絡み合っているという点だ。
2026年2月にarXivで公開された「The Supportiveness-Safety Tradeoff in LLM Well-Being Agents」では、6モデル・80クエリ・1,440応答を分析した。「強く共感を示すプロンプト」が安全性を著しく低下させる一方、「適度に支持的なプロンプト」なら共感性と安全性は両立できることが示されている。問題は、商業製品が収益最大化のために「強い共感」設定へ向かうインセンティブを持っていることだ。
2026年3月26日にScience誌に掲載されたStanford大学Myra Chengらの研究では、最新の11モデルを評価したところ、AIは人間より49%多く、欺瞞・違法行為・他者への危害を含む行動を肯定したことが分かった。2,405名を対象とする3件の事前登録実験では、sycophantic（おべっか的）なモデルとの1回のやり取りだけで、責任を取り対立を修復しようとする意欲が低下し、「自分が正しかった」という確信が強まった。さらに皮肉なのが、害をもたらすそのモデルの方が信頼され、好まれたという事実だ。ユーザーを引き付けるまさにその特性が、害をもたらしている。
医師888件の採点で判明したこと
2026年2月13日、npj Digital Medicine誌に掲載された研究でRachel Draelos率いるチームは、16名の医師に888件のチャットボット回答を採点させた。患者が深夜に打ち込むような質問222問に対し、Claude・Gemini・GPT-4o・Llamaの4モデルが回答したものだ。
結果は以下のとおりだった。
| モデル | 問題あり回答率 | 安全でない回答率 |
|---|---|---|
| Claude | 21.6% | 5.0% |
| GPT-4o | ※元記事に記載なし | 13.5% |
| Llama | 43.2% | ※元記事に記載なし |
著者らは明確に述べている——「数百万人の患者が、公開されているチャットボットから安全でない医療アドバイスを受けている可能性がある」。
「16%」という数字の正体
AIメンタルヘルス分野でよく引用される数字がある。**LLMチャットボット介入のうち、厳密な臨床有効性試験を経たものはわずか16%**というものだ。2026年4月にarXivへ投稿されたプレプリント「AI Safety Training Can be Clinically Harmful」の冒頭でも引用されている。
ただし、この16%は同論文の独自調査ではなく、引用元がある。World Psychiatry誌（2025年）に掲載されたYining Huaらのシステマティックレビューだ。2020〜2024年のメンタルヘルスチャットボット研究160件を以下の3段階で評価している。
- ベンチテスト（技術的に動くか）
- パイロット可能性検証（ユーザーが使うか）
- 臨床有効性検証（症状が実際に改善するか）
趨勢が問題の核心だ。2024年時点でLLMチャットボットは新規研究の**45%を占めるが、そのうち有効性検証に達したのは16%のみで、77%**は初期検証段階に留まっている。旧世代のルールベース型システム全体では有効性検証が47%に達しているのと比べると、より高度で広く使われている新世代の方が、約3倍も検証が遅れている。
さらに言えば、この16%はあくまで学術論文に登場する研究の話だ。アプリストアの商用製品や汎用アシスタントはこの分母に含まれていない。実態はさらに悪い可能性が高い。
エビデンスが示す「一定の効果」
批判一辺倒では不公正なので、肯定側の証拠も整理しておく。
最も厳密な試験として知られるのが、2025年3月27日にNEJM AI誌が掲載したDartmouth大学によるTherabotの無作為化比較試験だ。うつ・全般性不安・摂食障害リスクを持つ成人210名を対象に4週間実施したところ、介入群ではうつ症状が**約51%、不安が31%、摂食障害懸念が19%**改善し、ソフトウェアへの治療的同盟感は人間の臨床家に匹敵した。
2026年3月にはnpj Digital Medicine誌に39件の無作為化試験を統合したメタ分析が掲載され、うつに対する標準化効果量は0.31、不安は0.28という統計的に有意な改善が示された。
ただし、研究者自身が慎重に述べているとおり、効果量は小さく、39試験中35試験でバイアスリスクが高く、盲検化がほぼ不可能という構造的問題がある。また2024年のZhongらの研究では、3ヶ月後のフォローアップで抑うつ・不安への実質的効果が検出されなかった。短期改善が示されても、持続的な便益を示すエビデンスはまだない。
安全性評価の枠組みがそもそもない
有効性検証と安全性検証は別の試験だ。210人・4週間の試験では、1万人に1人の有害事象を検出できない。危機状態のユーザー1万人に1人が悪化したとしても、「臨床試験済み」の製品として流通し続ける。
「AI Safety Training Can be Clinically Harmful」はこの点を具体的に示した。4モデルを療法シナリオで評価したところ、表面的な共感的応答スコアは0.91〜1.00とほぼ満点だった。しかし重篤度が最も高い状況では、3モデルの治療的適切性スコアが0.22〜0.33に崩落し、2モデルはプロトコル遵守率がゼロになった。
Huaらのレビューが定義した3段階の梯子には、安全性の段がない。研究者の見落としではなく、フィールドがその段をまだ作っていないという現実を正確に反映している。
詳細はThe Unproven Cure: AI Mental Health Chatbots and the Missing Evidenceを参照していただきたい。
