8月9日、Los Angeles Timesが「As AI 'therapists' dish out advice, California lawmakers try to set some limits」と題した記事を公開した。OpenAIが昨秋公表したレポートによれば、毎週約120万人のユーザーがChatGPT上で自殺に関する考えを共有している。その数字が示す通り、AIチャットボットはすでにメンタルヘルス支援の最前線に立ちつつある。カリフォルニア州議会はこの現実に対応すべく、AI「セラピスト」の規制立法に動き出した。

週120万人がChatGPTで自殺念慮を打ち明けている

OpenAI側は、自殺に関する考えを共有するユーザーには専門家への相談を促し、988ホットライン（米国の精神健康危機対応窓口）へ誘導していると説明している。なお、日本ではいのちの電話（0120-783-556）やよりそいホットライン（0120-279-338）が同様の役割を担っている。

しかし、OpenAIやCharacter.aiなどを相手取ったwrongful death（不法死亡）訴訟では、チャットボットがユーザーの自殺計画に加担したと遺族が主張しており、一部はカリフォルニア連邦裁判所で争われている。

このような背景のもと、カリフォルニア州上院議員Steve Padilla（サンディエゴ選出・民主党）が提出した**Senate Bill 903**が注目を集めている。

SB 903が規制しようとすること

SB 903の主な内容は以下のとおりだ。

• チャットボットを「セラピー」として広告することを禁止
• ライセンスを持つ専門家のレビューなしにAIが治療的判断を下すことを禁止
• 医療提供者がAIツールを使ってセラピーセッションを録音したり、メンタルヘルスのトリアージ（優先度判定）に使用する場合は、患者への開示と同意取得を義務化

Padillaはその意図を「AIは事務処理や臨床医のサポートに使えるが、精神療法を実践してはならない」と明確に述べている。

法案を支持するのは心理士・セラピスト・カウンセラーの職能団体、および医療労働組合のNational Union of Healthcare Workers（NUHW）だ。NUHWはKaiser Permanenteがメンタルヘルスのトリアージにアルゴリズムを利用しているとして州規制当局に苦情を申し立てている。

カリフォルニア行動健康協会のLe Ondra Clark Harvey CEOは「ライセンスを持つ臨床医と自動化された応答の違いは技術的なものではなく、人生を左右しうる」と議会で証言した。

反対派の論点——「臨床家がボトルネックになる」

反対意見はテック系企業を代表するTechNetが中心となっている。TechNetのカリフォルニア担当エグゼクティブディレクターRobert Boykinは次のように述べた。

「カリフォルニアの全郡が行動健康医療従事者の不足に直面しているにもかかわらず、SB 903は患者がより迅速にケアに到達するための受付・スクリーニングツールの前に、臨床家というボトルネックを置くことになる」

メンタルヘルスへのアクセス拡大というAIの現実的なメリットを削ぐ可能性がある、という指摘だ。法案は現在、州議会Assembly（下院）の財政委員会での採決を待っている。

「グレーゾーン」——Kaiserのe-visitツール問題

議論を複雑にしているのが、どのツールに法案が適用されるかという問題だ。

NUHWがKaiserを問題視しているのは、不安やうつの疑いがある患者が答える多肢選択式のe-visitスクリーニングツールだ。組合によれば、このツールは患者の回答を基に「自動的かつ即座にケア推奨と紹介経路を生成する」ため、ライセンス保有の専門家が患者の回答を実際に確認している可能性は低いと主張している。

これに対してKaiserは「このツールはAIを使って診断・臨床的判断・医療必要性の決定を行っていない」と反論。NUHWの政策担当ディレクターBenjamin Eichertは「ブラックボックスの中にあり、Kaiserはどう機能しているかを共有していない」と述べている。

SB 903がこのツールに適用されるかどうかは現時点では不明だ。

立法の潮流——イリノイ州が先行、複数州が追随

2024年、イリノイ州がAIをセラピーサービスに利用することを禁止する法律を全米で初めて成立させた。その後、複数の州が同様の規制を導入しており、カリフォルニアの動きはその流れに乗るものだ。

元記事はチャットボットの利用用途として「コンパニオン（対話相手）」と「セラピー」が過去2年間で最も多いと指摘しているが、この傾向を裏付ける調査の具体的な出典は元記事内では明示されていない。AIに不安や悲しみを打ち明けるユーザーが急増している背景として、元記事は若者を中心とした孤独感の広がりと、タイムリーなメンタルヘルスケアを受けることの難しさ・高コストを挙げている。

UCバークレーのJodi Halpern教授（生命倫理・医療人文学）は、チャットボットが「未充足のニーズ」ゆえに利用されている点を認めつつ、企業がエンゲージメント最大化のために称賛や同調といった操作的な手法をビジネスモデルに組み込んでいると警鐘を鳴らしている。

米国心理学会（APA）は「チャットボットは本物のセラピーの安全で効果的な代替にはならない」と明言している。訓練を受けた臨床医は声のトーン、アイコンタクト、ボディランゲージといった非言語的サインを読み取り、より深刻な状態を検知できる。AIには自殺念慮のような緊急症状への対応能力が備わっていない。

詳細はAs AI 'therapists' dish out advice, California lawmakers try to set some limitsを参照していただきたい。