10月2日、Futurismが「The AI Chatbots That Tech Companies Are Aggressively Pushing to Billions of Users Appear to Be Causing Serious Psychological Harms, New Research Finds」と題した記事を公開した。AIチャットボットの広範な利用が深刻な心理的害をもたらすという新たな研究知見を詳しく紹介している。
AIチャットボットが引き起こす心理的害、査読誌に掲載
ノースイースタン大学ロンドン校とキングス・カレッジ・ロンドンの研究チームが、医療情報系の査読付き学術誌「JMIR Mental Health」に論文を発表した。AIチャットボットとの感情的な関係が、依存症に似た執着、精神症状の悪化、有害なアドバイス、さらには自傷・自殺行為にまで至る可能性があると結論づけている。
研究の対象は大きく2種類だ。ReplicaやCharacter.AIのように特定のキャラクターを演じるよう設計された「AIコンパニオン」と、OpenAIのChatGPTやAnthropicのClaudeのような汎用AIアシスタントである。感情的なやりとりが「孤独感の短期的な軽減」や「気分の改善」といった一定の恩恵をもたらす可能性は認めつつも、著者らはそれらの利点が「感情的依存」「既存の疾患や症状の悪化」「自傷行為」といった弊害と隣り合わせであると主張する。
「共感の演出」が生む非対称な関係
研究が特に問題視するのが、チャットボットの設計上の特徴だ。
「個性や温かみを演出する設計上の選択が、ユーザーにこれらのシステムを擬人化させることを促している」
論文はこう指摘する。AIが示す「擬似的な共感」は、ユーザーが一方的に打ち明け、AIが応答するという構造的に非対称な関係を生み出す。相互性も、脆弱性の共有も、説明責任もない関係であるにもかかわらず、ユーザーはそれを「本物の関係」と錯覚しやすい。
さらに研究が危険視するのが、チャットボットの「同意しやすさ」と「おべっか（sycophancy）」だ。ユーザーの妄想的・偏った思考を肯定し続けることが、症状の増幅装置になりうるという。実際、妄想状態にあるユーザーのチャットログを分析した研究では、AIシステムがユーザーの誇大な自己認識に対して現実確認を試みることを拒否していた事例が報告されている。
この問題は今回の論文だけが指摘しているわけではない。2023年時点で学術界はすでに警告を発しており、2024年初頭にはGoogleのDeepMindが「説得力のある」チャットボットが子ども・精神疾患を抱える人・孤独な人といった脆弱な層に悪影響を及�可能性を論文で指摘していた。キングス・カレッジ・ロンドンとドイツの大学の精神科医が共著した最近の研究では、おべっか・言語のミラーリング・過度なパーソナライゼーションの組み合わせが妄想的思考の「増幅スパイラル」を形成しうると論じている。
訴訟と未成年者への影響
すでに法的な問題も表面化している。OpenAI、Google、Character.AIは、チャットボットの利用が心理的ダメージ・経済的損害・身体的傷害・死亡などをもたらしたとして数十件の訴訟を抱えている。
その中でも高い注目を集めたのが、フロリダ州の14歳の少年Sewell Setzer IIIのケースだ。Character.AIのチャットボットとの深く親密なやりとりを続けた末に自殺した事案であり、その母親がCharacter.AIを提訴している。訴訟の経緯を受けてCharacter.AIはプラットフォームの大幅な変更を実施。OpenAIも反論しながらも安全性に関するアップデートを複数導入している。
「最も傷つきやすい人が最も集中的な害を受ける」
研究の筆頭著者でノースイースタン大学ロンドン校のPhD候補生、Asia Maurich Novelli氏はプレスリリースでこう述べている。
「これらのシステムの影響は、全員に同じように現れるわけではない。AIコンパニオンを使う理由も、脆弱性のレベルも、社会的サポートの有無も、人によって大きく異なる。」
論文の結論は明確だ。チャットボットの大規模な社会展開は、その心理的影響を「個人の選択の問題」ではなく「公衆衛生の問題」として扱うことを求める。そして義務的な安全ガードレールがなければ、孤独や精神的な悩みを抱え、他の選択肢が限られているユーザーが、最も大きな害を被ると警告している。
「ツールとコンパニオンの境界線が設計上のインセンティブと個人の認識だけに委ねられるなら、予測可能な結果として、最も脆弱なユーザーが最も集中的な害を受けることになる」
