8月17日、Jason Koeblerが「'Show How 3M Is 0% at Fault:' Expert Witness Used ChatGPT to Write Report Defending Company in Deadly Explosion Lawsuit」と題した記事を公開した。この記事では、死者3名を出したヒューストンの爆発事故をめぐる訴訟で、3M側の専門家証人がChatGPTを使って「3Mの責任は0%」とする鑑定報告書を作成していた事実が明らかになったことについて詳しく紹介されている。以下に、その内容を紹介する。
「3Mの責任は0%と示せ」——ChatGPTへの指示がそのまま証拠になった
2020年1月、テキサス州ヒューストンのWatson Grinding社の工場で爆発が発生した。死者3名、住宅約200棟が損壊する大規模事故だった。米国化学安全・危険調査委員会（CSB）によると、原因は劣化・不良施工されたゴム製溶接ホースからの可燃性ガス漏洩だ。被害を受けた住民数十名が3MとWatson Grindingを提訴。3Mがガス検知システムの保守を適切に行わなかったと主張した。
3Mはこの訴訟に対応するため、Knighthawk Engineering社のJosh Autenrieth氏を専門家証人として起用し、約9万ドル（時給475ドル）で鑑定報告書の作成を依頼した。
問題が発覚したのはディスカバリー（訴訟前の証拠開示手続き）の段階だ。原告側弁護士のWill Moye氏が提出書類の中に「Citation Overlay」と題された5ページの文書を発見。AIが生成したと直感し、Autenrieth氏が使用したすべてのプロンプトを要求した。証言録取は3時間中断され、最終的に350ページに及ぶChatGPTとの会話記録が開示された。その会話ログへの公開リンクまで含まれていた。
プロンプトの中身：結論ありきの依頼
公開されたプロンプトの内容は率直だった。Autenrieth氏はChatGPTに対し、以下のように指示している（要旨）：
- 「3Mの訴訟防御のために専門家証人として雇われている」
- 「3Mのケアの水準を守る専門家証人報告書を作成する必要がある」
- 「（対立する証人の）とんでもない主張に反論し、3MがWatson Grinding爆発事故に対して0%の責任しか負わないことを示せ」
ChatGPTはこれに応じて約30ページの報告書を生成。その中には「技術的かつケアの水準の観点から、3Mは爆発事故に対して0%の責任を負う」という文言が含まれていた。
ただし、この「0%」という表現は最終的に裁判所へ提出された報告書には含まれなかった。理由はAutenrieth氏が「opposing counsel（対立する弁護士）として報告書をレビューせよ」とChatGPTに依頼したところ、ChatGPTが「'0% responsible'という表現は弁護士に突かれやすいターゲットになる」「あなたを中立な専門家ではなく代理人として印象付けるリスクがある」と自ら指摘したためだ。
「報告書の85〜90%がChatGPT」と本人が認める
裁判でのやり取りはさらに踏み込んでいる。Autenrieth氏はChatGPTの使用を認めつつ、「自分の意見を最初に入力し、同意できない出力は修正した」と述べた。しかし原告側弁護士のMoye氏との尋問の中で、提出された報告書の「85〜90%がChatGPT」であることが確認された。
ほかにも以下の事実が判明している：
- ガス検知器の画像をChatGPTにアップロードし「これは何か？」「産業用ガス検知器のモデル名は？」と質問している。このガス検知器は「事件の核心」となる機器だとMoye氏は述べている。
- ChatGPTに報告書を「採点」させ（97/100点を取得）、「検察が攻撃できる5つのポイントとその防御法」を生成させている。
- 自分の経歴が専門家証人として十分かどうかをChatGPTに評価させ、「初めて専門家証人を務めることで訴追側から攻撃されないか」を確認している。
- 証言録取の前夜に大量のプロンプトを実行している。
- 渋滞中に「記憶を呼び起こすため」ChatGPTに質問していたと法廷で証言している。
Moye氏は404 Mediaの電話取材に対して「このような報告書を書く目的でのみ雇われ、ChatGPTを使って書いた。実質的にChatGPTが専門家証人だった」と述べた。
プロンプトは「召喚状」で取得できる
この事件が示す実務的な含意は大きい。Moye氏はChatGPTの会話ログがディスカバリーや証言録取の過程で取得可能であることを明確にした上で、こう語っている。「弁護士たちから『どうやってプロンプトを入手したんだ』という問い合わせが相次いでいる。そして『自分の案件でも同じことが起きていないか』と不安がっている」。
専門家証人によるAI利用の発覚事例は国際的にも存在する。フランスでは弁護士が洪水訴訟で降雨パターンに関するAI生成の論拠を使い、証拠が棄却された。カナダでは害虫被害に関する専門家意見にAIが使われ、裁判官は「AI生成の証拠は採用しない。専門家証拠は、特定の問題に対して具体的な知識を持つ、氏名と資格が明確な個人から提出されなければならない」と判示した。
なお、陪審員は原告に6,100万ドル超の賠償を認める評決を下し、責任の内訳を3Mに30%、Watson Grindingに70%と認定した。過去の関連訴訟では1億1,800万ドルおよび3,800万ドルの賠償判決が出ており、今後も複数の訴訟が予定されている。3M、Autenrieth氏、Knighthawk Engineeringはコメント要請に応じていない。
詳細は'Show How 3M Is 0% at Fault:' Expert Witness Used ChatGPT to Write Report Defending Company in Deadly Explosion Lawsuitを参照していただきたい。
