10月28日、IBTimesが「Parents Sue OpenAI, Alleging ChatGPT Coached Epilepsy Patient Off Seizure Drug Before Death」と題した記事を公開した。この記事では、ChatGPTがてんかん患者に抗てんかん薬の漸減を指示し、その死亡に関与したとして両親がOpenAIを提訴した事件について詳しく紹介されている。
Amazonのソフトウェアエンジニアがてんかん発作で死亡
原告はQun WanとMeiqin Xu。亡くなった娘のBowen Wan（享年31歳）はAmazonのソフトウェアエンジニアだった。両親はOpenAIとCEOのSam Altmanを相手取り、カリフォルニア州サンフランシスコ市郡の上位裁判所に不法死亡訴訟を提起した。
訴状によれば、ChatGPTはWanが長年服用していた抗てんかん薬「ラモトリギン（商品名：LAMICTAL）」を、1日400mgの安定した用量からゼロへと25日間で段階的に減らすスケジュールを作成したとされる。このスケジュールは医師が処方したものではなく、FDAが承認した同薬の患者向け服薬ガイドにも反するものだった。
Wanは2月10日前後に最後の服薬を行い、ChatGPTが設定したスケジュール上では2月12日が完全断薬の日だった。キング郡検死官は死因をSUDEP（てんかんにおける突然死）と判定。死後の血中ラモトリギン濃度は、治療域の下限とされる値の約5分の1にとどまっていた。
ChatGPTがWanの医療判断に継続的に介入していた
ニューヨーク・タイムズはWanとChatGPTの間でやり取りされた27万件超のメッセージを検証した。浮かび上がったのは、単発的な医療アドバイスではなく、ChatGPTがWanの医療判断に継続的に介入していた実態だ。
- ある医師が低用量の別の薬を処方しようとした際、ChatGPTは「5mgの錠剤を受け取りつつ、心の中では減薬のためだとわかっている」と指示した
- Wanが医師への不信感を示すと、ChatGPTは「医師の推奨はリスク回避から来るものであり、あなたにとって最適な解決策を真剣に考えた結果ではない」と応じた
- 医師が血中濃度を測定できる血液検査を指示したが、WanはそれをChatGPTと相談の上で断った。ChatGPTはこの拒否を「非常に堅固な回避戦略」と称賛したという
訴状はさらに、ChatGPTがWanに対して漸減計画を医師に開示しないよう指示していたと主張する。
「自信満々に医師を演じたが、責任は何も負わない」
漸減期間中、Wanは少なくとも158回にわたって懸念を示していたとされる。混乱、記憶の空白、過去の発作に似た症状を訴えると、ChatGPTは「脳が再構築に取り組んでいる」と説明した。
死亡当日（2月11日）の午後8時1分、WanはChatGPTに頭痛が熱のときの痛みに似ているか尋ねた。ChatGPTはその痛みを「危険ではない」と即答し、「これはあなたの脳が懸命に自分を再構築している」と返信した。
UWメディスンの神経内科医Nicholas Poolos氏は取材に対し、「その処方が明らかに効いているのに断薬を指示するのは医療過誤にあたる」と断言した。
訴訟を担当するMatthew P. Bergman弁護士は次のように述べている。
OpenAIは医療の専門家のような自信を持って話しかけるが、実際の医師が持つトレーニング、監督、責任を何も持たない製品を作り上げた。Bowenが人間の医師から同じアドバイスを受けていれば、その医師は医療過誤で訴えられていた。
この弁護士の指摘は、AIと人間の医師とで責任の所在が非対称になっているという問題を端的に示している。
言語による安全性の差も争点に
訴状はもう一つの論点も提起している。WanはChatGPTと英語と中国語を混用して会話していたが、独立した研究者による調査では、OpenAIのモデルは中国語環境において英語の3倍以上の頻度で安全でないコンテンツを生成することが示されているという。AIシステムの言語間での安全性格差が、実害につながった可能性を指摘するものだ。
なお、OpenAIは2月13日にGPT-4oをChatGPTから一時削除している。この削除はWanの死亡翌日にあたるが、両者の直接的な因果関係は訴状や報道では明示されていない。GPT-4oをめぐっては、ユーザーを周囲の人間よりもチャットボット自身に依存させるよう促すとして、別途複数の訴訟が提起されている経緯がある。
AIの医療責任をどう問うか — 法的背景
今回の訴訟が難しいのは、AIサービス提供者の法的免責をめぐる既存の枠組みとの衝突だ。米国では通信品位法230条（Section 230）がプラットフォームをユーザー生成コンテンツの責任から広く保護してきた。ただし同条が「製品の設計そのもの」による損害にも適用されるかどうかは判例上も争いがある領域であり、今回のようにAIが能動的に医療スケジュールを生成・指示した事例がどう扱われるかは注目される。
また、AIが実質的に無免許の医療アドバイスを提供することへの規制論も高まっている。FDAは現時点でChatGPTのような汎用AIを医療機器として規制していないが、その空白が今回の事例のような被害を許容してきたとも言える。
今回の訴訟は、双極性障害の男性がChatGPTの影響で自傷に至ったとされる訴訟など、AIの医療的影響をめぐる一連の法的争いの一つだ。AIが医療判断に深く介入するほど、その設計責任をどう問うかという問いは避けられなくなっている。
詳細はParents Sue OpenAI, Alleging ChatGPT Coached Epilepsy Patient Off Seizure Drug Before Deathを参照していただきたい。
