9月28日、Neuroscience Newsが「Flawed AI Summaries Distort Eyewitness Memory」と題した記事を公開した。この記事では、AIが生成した不正確な動画要約が目撃者の記憶を歪め、虚偽の記憶を植え付けることを示したジョージタウン大学・ワシントン大学の共同研究について詳しく紹介されている。
正確率が83.6%から44.8%に急落
研究の核心は、この数字に尽きる。
ジョージタウン大学とワシントン大学の研究チームは331人の被験者を対象に実験を行った。被験者はまず、赤い車が歩行者に衝突するアニメーション動画を視聴。24〜48時間後に、その動画の「要約文」を読んだ。要約は「正確なもの」と「誤情報を含むもの」の2種類が用意された。
記憶の正確性をテストした結果：
- 正確な要約を読んだグループ：83.6%が正しく記憶
- 不正確な要約を読んだグループ：44.8%しか正しく記憶できず
誤ったAI要約を読んだだけで、目撃者の記憶精度が約46%低下した。
さらに決定的だったのは、「この要約はAIが書いたものだ」と事前に告知しても、記憶の汚染は防げなかったという点だ。AIへの信頼度や事前知識の有無も、結果に影響しなかった。人間の記憶は、情報源が機械だと分かっていても誤情報を取り込んでしまう。
この現象は、認知心理学において古くから研究されてきた「誤情報効果（Misinformation Effect）」と深く関わっている。エリザベス・ロフタスらが1970年代から積み重ねてきた研究では、目撃後に与えられた言語情報が元の記憶を上書き・変容させることが繰り返し示されてきた。本研究はその古典的知見を、LLMによる自動要約という現代的文脈で再検証・拡張したものと言える。
ChatGPTとGeminiは95%のケースで「衝突」を書き漏らした
実験に先立ち、研究チームはOpenAIのChatGPTとGoogleのGeminiに同じ動画を要約させ、その品質を評価した。結果は惨憺たるものだった。
- 中心的な出来事の平均51.6%を記述しなかった
- 95%のケースで、動画の最重要場面である「車が歩行者に衝突する瞬間」に言及しなかった
共著者でワシントン大学の博士課程在籍者であるYael Eigerはこう述べている。
「AIの現状を踏まえても、要約の質の低さには驚いた。警察署がビデオ要約技術を使い始めているにもかかわらず、厳密な検証もなく、AIが生成する誤りの影響についての認識もないことが心配だ。」
「人間が確認すればいい」という前提が崩れる
AIシステムの誤りを人間がチェックする「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」は、AI利用における安全策として広く採用されている考え方だ。欧州のAI規制議論や企業のAIガバナンス指針においても、高リスク領域での人間監督は基本原則として位置づけられている。しかしこの研究はその前提に根本的な疑問を投げかける。
誤ったAI要約を読んだ担当者が、その後に供述書やレポートを書く場合、AIの誤りを「正しい記憶」として無意識に採用してしまう可能性がある。チェックするはずの人間自身の記憶が、すでに汚染されているからだ。つまり「人間が最後に確認する」という手順そのものが、AI要約を先に読む以上は安全弁として機能しない構造的問題がある。
論文著者らはこの点を明示的に指摘している。
「『ヒューマン・イン・ザ・ループ』はAIのミスを是正するものと期待されがちだが、我々の研究は、人間の記憶がそのミスによって歪められる可能性を示している。」
この指摘が重要なのは、担当者が「疑いながら読む」という意識的努力だけでは不十分であることを、実験データが示しているからだ。AI情報源であると告知された条件でも記憶汚染が生じた事実は、運用手順の設計レベルでの対応が求められることを示唆している。
警察の体カメラ映像への応用が次のステップ
本研究はアニメーション動画を使った実験だが、研究チームは次フェーズとして実際の警察の体装着カメラ（ボディカム）映像を使った検証を計画している。商用の要約ツールが公式レポートや証言をどう変質させるかを調べる狙いだ。
本研究はAIES 2025（AI, Ethics, and Society Conference）で発表された。論文はarXivでオープンアクセス公開されているが、論文IDの正確性は元記事（Flawed AI Summaries Distort Eyewitness Memory）にて直接確認されたい。
刑事司法、医療記録、企業の会議議事録など、LLMによる要約が急速に普及する分野において、この研究が提起する問題は実用的な重みを持つ。
詳細はFlawed AI Summaries Distort Eyewitness Memoryを参照していただきたい。
