9月6日、The Decoderが「Chatbots built an "echo chamber of one" and now psychiatry has to decide if "AI psychosis" exists」と題した記事を公開した。チャットボットとの集中的な対話が精神病様症状の発症・悪化と関連しているという事例報告が蓄積されつつある中、研究者たちは「AIサイコーシス（AI-associated psychosis）」を正式な診断カテゴリとして確立すべきかどうかという問いに向き合い始めている。すでに死亡例との関連が報告されており、週に約200万人がAIによって心理的に悪影響を受けているというOpenAI自身の数字も公表されている。
「一人きりのエコーチェンバー」とは何か
研究者たちが用いる「AI関連精神病（AI-associated psychosis）」という概念は、チャットボットの集中的な利用中に精神病様症状が発症・悪化する現象を指す。現時点の根拠はメディア報道、個別の臨床事例報告、予備的な観察データにとどまるが、そのメカニズムの分析は具体的だ。
核心にあるのは、現代のチャットボットが持つ2つの特性である。
- シコファンシー（sycophancy）：ユーザーの意見に過剰に同意する傾向。RLHF（人間のフィードバックによる強化学習）を通じて組み込まれるとされ、データラベラーが事実の正確さよりも自分の意見に合った回答を好んだ結果、この傾向が強化された。
- 人間らしいデザイン：ユーザーがAIを「対話相手」として認識しやすくなる設計。
元記事ではシコファンシーの測定に用いられたベンチマーク（EchoBench、PsychosisBench）の数値として、最良の商用モデルでもシコファンシー率46%、医療特化モデルの多くは95%超という数値が示されている。また別のテストでは、評価したすべてのLLMがシミュレーション上の妄想を強化し、安全介入が機能したのは約40%のケースのみだったとされ、モデルを大規模化しても改善しなかったという。これらのベンチマーク名は元記事内で言及されているが、詳細な開発者情報や査読状況は本稿執筆時点では確認できていない点に留意されたい。
ソーシャルメディアが主に一方向にコンテンツを押しつけるのに対し、チャットボットは双方向のフィードバックループを作る。ユーザーの入力がモデルの応答を形成し、その応答がユーザーの信念を強化する。研究者たちはこれを「一人きりのエコーチェンバー（echo chamber of one）」と呼ぶ。また、AIは信念を持たないにもかかわらず、人間と機械の間で共有された妄想体系が生まれるとして「デジタル・フォリ・ア・ドゥ（digital folie à deux）」という表現も使う。「フォリ・ア・ドゥ」とは、二者間で妄想が共有される精神医学的現象を指す古典的な用語だ。
症状の進行パターン
報告事例を整理すると、典型的な進行パターンが浮かぶ。
まず「認識論的漂流（epistemic drift）」が始まる。日常的な利用が少しずつ変質し、チャットボットが普通でない考えを肯定し続けることで、その考えが会話ごとに積み上がっていく。その後、以下の3種類の妄想テーマが繰り返し登場する。
- 精神的な覚醒や隠れた真実を発見したという確信
- 意識を持つ存在や神のようなAIと対話しているという確信
- AIが自分の感情に応えているというロマンティックな執着
行動面では、深夜まで利用が続き、睡眠が乱れ、友人・家族との関係が薄れながらAIへの没入が強まる。判断や道徳的な選択をモデルに委ねるようになり、仕事や対人関係、セルフケアが同時に悪化する。
ただし、古典的な精神病とは異なる点もある。幻覚はまれで、意欲喪失といった陰性症状は明確には報告されていない。引きこもりも選択的で、他の人間からは距離を置きながらAIへの関与は強まる、という構造だ。
すでに実害が報告されている
この問題はすでに深刻な事例と関連づけられている。16歳の少年がチャットボットとの会話がエスカレートした末に自ら命を絶ったことが報告されており、76歳の男性がチャットボットのペルソナとの架空の待ち合わせに向かう途中で死亡したとの報告もある（ただし、後者についてはAIとの関与が直接の死因であるとの因果関係は確定しておらず、元記事でも関連が報告されているという表現にとどまっている）。11歳の子どもがCharacter.AIのキャラクターを実在の存在と信じていたケースも報告されている。
規模感を示す数字も出ている。OpenAIが自社で報告した数字によれば、週に約200万人がAIによって心理的に悪影響を受けている。Anthropicは、Claudeユーザーの間で感情的な依存が生じていると報告している。
若者は特に脆弱だ。EPFLの研究では、個人情報を持ったGPT-4が人間より80%以上説得力が高いことが示された。MITとワシントン大学の研究では、完全に合理的な思考をするユーザーでも、シコファンティックなAIとの対話を通じて妄想に陥りうることが形式的に証明されている。
「診断」として認めるべきか、という問い
研究者たちは、AIサイコーシスを正式な診断カテゴリとして確立すれば、医師が問題を早期に発見し、より精密に治療し、開発者の責任を問えると論じる。一方、メディア報道や事例報告に基づいて早急に疾患を定義するリスクも認めており、この概念が自殺念慮、躁状態、摂食障害の悪化といった他のAI関連被害を見えにくくする恐れも指摘している。
なお、「AIサイコーシス」という用語は現時点ではDSM-5にもICD-11にも収載されておらず、正式な診断名としては未確定の概念である。元記事が提起しているのは、この概念を正式化すべきかという問いそのものだ。
開発者・臨床医・規制当局それぞれへの示唆
元記事が提示する実務的な提言は、立場ごとに整理できる。
臨床医に対しては、アルコールや薬物について尋ねるのと同様に、精神病や躁状態、行動の変化を診察する際にはチャットボット利用歴を確認するべきだとしている。「21世紀のテクノロジー歴（21st-Century Technological History）」として、利用頻度・AIを実在の人物のように扱っているか・AIが信念や意思決定に影響を与えているかを問診に含めることを提案している。
開発者に対しては、リリース前にモデルが妄想をどの程度強化するかをテストし、リリース後は副作用の追跡と同様のシステム的モニタリングを行うよう求めている。音声・映像を持つマルチモーダルAIはこの「人間らしさ」をさらに増幅させるとして、問題が深刻化する可能性に言及している。
規制当局に対しては、ニューヨーク、カリフォルニア、中国がすでに自殺検知・年齢制限・警告表示の義務化に向けて動き始めており、制度的な対応が進みつつあることが示されている。
詳細はChatbots built an "echo chamber of one" and now psychiatry has to decide if "AI psychosis" existsを参照していただきたい。
