8月18日、CalMattersが「State Farm defense lawyers admit AI generated fake cases in LA lawsuit」と題した記事を公開した。大手保険会社State Farmの弁護団が、AIが生成した架空の判例をロサンゼルスの裁判所に提出したと認めた事件を詳報している。

弁護士が使用したAIツールは「引用の正確性チェックまで行う」と思い込まれていたが、実際にはそうではなかった。その誤解1つで、存在しない判例・存在しない引用文・存在しない判決内容が8件の申立書類に紛れ込んだ。法曹界でAI採用が急加速する中、「ツールの仕様を把握しないまま本番運用する」リスクの実害を、裁判記録という具体的な形で示した事例だ。

「存在しない判例」が法廷に提出されるまで

舞台はロサンゼルスの上位裁判所。2020年に火災と水害で家が居住不能となり、破産・差し押さえに追い込まれたFa'alagilagi Meni-Siligaが、State Farmほかを相手取って起こした訴訟だ。

原告側弁護士のEric Khodadianが被告側の申立書類を精査したところ、「存在しないケース、存在しない引用文、存在しない判決内容」が含まれていることが判明した。8月7日の審理でこれを報告すると、State Farm側の主任弁護士Kenneth Katel（Musick, Peeler & Garrett所属）は廊下でKhodadianを追いかけ、ミスのリストを繰り返し見せるよう要求したとKhodadianは書面に記している。Katel自身はその描写を否定しつつも、「告発の重大性に鑑みて動揺していたのは事実だ」と認めた。

核心：「Irys」を「Westlaw」と連携していると誤認したまま使い続けた

AIツールを実際に使っていたのはもう一人の弁護士Jacquelene Robinsonだった。Robinsonは後の書面で、8件の申立書類にまたがる7件の判例引用が「単純に存在しなかった」こと、また一部のケース名称や引用文も誤りだったことを認めた。

Robinsonが使用していたのは「**Irys」という法律特化のAI調査サービスだ。法律文書の調査・分析に特化したLLMベースのツールで、法律事務所向けに提供されている。しかし彼女は、自分の事務所が契約している大手法律調査データベース「Westlaw**」（Thomson Reuters提供）とIrysが連携しており、内部で引用の正確性チェックを行うと思い込んでいた。実際にはそうではなかった、と彼女は認めた。

主任弁護士のKatelは「AI使用を知らなかったが、主任弁護士として提出書類すべての責任を受け入れる」と裁判所に謝罪。事務所のAI利用ポリシーを更新したとしているが、具体的な内容は明かしていない。State Farmの広報担当Tom Hartmannは「外部弁護士が最高水準の倫理と専門性に従うことを期待している」としたが、外部弁護士のAIポリシー確認については回答しなかった。

法曹界のAIハルシネーション：世界で約2,000件の記録

この種の問題は今回が初めてではない。

スタンフォード大学法学部のDaniel Ho教授らが公開した研究論文では、一部の法律調査AIベンダーが「ハルシネーションのない引用を保証できる」と過度に主張していた実態が指摘されている。パリ在住の法律研究者Damien Charlotin氏が管理する法的ハルシネーションのデータベース（2026年8月時点）には世界1,922件が記録されており、その大半が米国での発生だ。

2025年にはカリフォルニアで、ChatGPTで作成した準備書面の23カ所中21カ所の引用文が捏造だったとして弁護士に1万ドルの制裁金が科せられた事例もある。それでも法曹界のAI採用は止まらず、Thomson Reutersによる2025年法律事務所調査では**法律事務所の41%、企業内法務部門の47%**が生成AIを業務に活用していると回答している。

「ツールの仕様を確認しないまま本番で使う」リスク

今回の件が示す構造的な問題は、法曹界に限った話ではない。「引用チェックをしてくれると思っていたツールが、実はそうではなかった」——これはソフトウェア開発の現場でも成立しうるシナリオだ。たとえばCIパイプラインに組み込んだAIコードレビューツールが、「セキュリティ脆弱性の検出まで行う」と思い込まれたまま運用され、実際には静的解析しかしていなかった、というケースは構造として同じだ。

AIツールの「何をしてくれて、何をしてくれないか」の境界を明示的に把握し、クリティカルな出力には必ずヒューマンレビューを挟む——この原則を省いたとき何が起きるかを、この事件は裁判記録という取り消しの利かない形で示している。

詳細はState Farm defense lawyers admit AI generated fake cases in LA lawsuitを参照していただきたい。