6月9日、Jason Koeblerが「Judge Learns Lawyers on Both Sides of Case Used AI, Cancels Trial, Kicks Everyone Off the Case」と題した記事を公開した。この記事では、訴訟の双方の弁護士がAIを使用していたことが発覚し、裁判官が裁判を中止して全弁護士を事件から外すという前代未聞の事態について詳しく紹介されている。以下に、その内容を紹介する。

AI同士が法廷で対決、裁判官が激怒し全弁護士を解任

ミシシッピ州の連邦裁判所で、双方の弁護士が人工知能を使用していたことが発覚し、事実上AIツール同士が法廷で議論を戦わせる異例の事態が起きた。シャリオン・アイコック判事は制裁命令の中で、弁護士らが法廷の時間を無駄にし、「法律分野でAIの未検証使用が蔓延している時代に、この事件はスタンプ押し役に徹することの危険性を示す典型例」だと厳しく批判した。

「この事件は珍しい状況を法廷に提示している。双方の代理人が同様の制裁対象となる行為に関与した」とアイコック判事は制裁命令で述べ、「この法廷は再び『AI幻覚による法廷書類への対応』という負担を強いられている」と続けた。

存在しない判例の応酬で裁判が破綻

この事件は、弁護士のトム・ウィザーズとミシシッピ州アバディーン市との間の契約紛争で、未払いの弁護士費用をめぐるものだった。双方の弁護士が存在しない「幻覚」判例を引用しながら主張を展開していたことが判明した。

AIによる法律業界への影響を追跡している弁護士のロブ・フロインドは、この事件を「AIエラーの喜劇」と評し、「基本的に2人のクライアントがChatGPT（または他のLLM）同士を戦わせるためにお金を払っていた状況」だと指摘した。

404 Mediaがこれまでに報じた類似事例と同様のパターンだが、今回の特徴は関与した弁護士全員が問題行為に関与していた点だ。アイコック判事は手続きを中断し、裁判を中止し、関与した4人の弁護士全員を事件から除名した。2人の弁護士は2年間の出廷禁止処分を受け、全弁護士がAI出力の検証を怠った責任の程度に応じて1,000ドルから3,500ドルの罰金を科せられた。

繰り返されるAI濫用に判事が警告

関与した4人の弁護士は全員、直接AIを使用したか、AIで作成された法的書面を検証せずに承認したことを認めた。1月の聴聞会で「それぞれの弁護士が恥ずかしさを表明し、法廷に謝罪した」とアイコック判事は記している。

特に問題視されたのが弁護士のキャスリーン・ウィルソンの行為だ。彼女は「First Drafts」というAIツールを使って準備書面全体を作成したと認めた。さらに深刻なことに、アイコック判事によれば、ウィルソンは法廷でAI使用が発覚した後も使用を続けていた。

「ウィルソンはAIが幻覚事例を生成する可能性があることを知らず、幻覚事例が何かさえ知らなかったと説明した。法廷はその説明を不十分で信じがたいものと判断する」とアイコック判事は述べた。

さらに問題だったのは、他の裁判官が4月という最近の時点でも、ウィルソンの書面で幻覚判例を発見していたことだ。これは彼女が最初にAI使用について説明を求められてから4か月後のことだった。

専用ツールでも州法対応に限界

別の弁護士キャスリン・ウィリアムズは、名前を明かさなかった「社内法律調査用」のAIツールを使用したと認めた。このツールは幻覚を起こさない設計だったが、ミシシッピ州法を対象としていなかった。

「ウィリアムズは、そのソフトウェアが彼女の法律事務所が通常実務を行う管轄区域の結果を生成するよう作られており、ミシシッピ州は含まれていないと説明した」とアイコック判事は記している。「彼女はこの事件が関与したことのある唯一のミシシッピ州事件だったが、そのソフトウェアがミシシッピ州法を包含するよう設計されていないことを明らかに知っていながら使用に頼った」。

全国の判事たちがAIを使用する弁護士に対してますます苛立ちを示している中で、この事件はAIツールの検証なき使用がもたらす危険性を如実に示した事例となった。

詳細はJudge Learns Lawyers on Both Sides of Case Used AI, Cancels Trial, Kicks Everyone Off the Caseを参照していただきたい。