AI生成画像が科学論文に紛れ込む時代 — 「本物らしさ」の根拠が失われ、科学への信頼が揺らぐ

6月27日、Nan Li（ウィスコンシン大学マディソン校・科学コミュニケーション准教授）が「AI images are more convincing than ever」と題した記事を公開した。AI生成画像が科学論文や公共空間に浸透することで、科学への信頼そのものが揺らいでいる現状について、Li氏自身の研究知見をもとに詳しく論じている。

論文に紛れ込むAI画像

2024年、生物学的にあり得ない構造を含むAI生成図表を掲載した論文が2本撤回された。2026年4月には、New England Journal of MedicineがAIで加工された臨床画像を含む論文を撤回している。これらは表面化した事例にすぎず、Li氏は「氷山の一角に過ぎない」と指摘する。

学術出版社はAI検出ツールの導入を始めているが、Li氏は「画像を生成するシステムは、それを検出するシステムより常に先を行く」と指摘する。検出器は学習済みのパターンしか識別できず、新しいAIモデルが登場するたびに再学習が必要になる。最も懸念されるのは、科学的な細部をわずかに歪めながらも、初期レビューをすり抜けるほどリアルな画像だ。なお、撤回論文の動向を追うデータベースとしてRetraction Watchが知られており、AI関連の撤回事例も継続的に記録されている。

「本物らしさ」の根拠が失われる

科学的な画像がこれまで権威を持てたのは、それが生産困難だったからだ。顕微鏡画像、気候グラフ、宇宙写真の撮影には、高価な機器、機関のリソース、専門知識が必要だった。一般の人々は「そんな画像を作れる人間は限られている」という前提のもとで、それを信頼してきた。

Li氏の研究によれば、人々は科学的ビジュアルを評価する際に以下の三つのヒューリスティクス（判断の近道）に頼っている。

技術的に洗練されて見えるか？
信頼できる機関から来ているか？
自分がすでに信じていることと一致しているか？

生成AIはこの三つをすべて崩す。テキストプロンプトだけで、誰でも洗練された科学的外観の画像を作れるようになった。さらに画像はSNS上で拡散する過程で出典から切り離される。機関への帰属という手がかりが機能しなくなると、人々は最終的に自分の既存の信念に頼るしかなくなる。

結果として起きるのは認知の非対称だ。自分の信念に反する本物の科学的画像は「AIが作ったのでは」と疑われ、信念に沿った偽造画像は証拠として受け入れられる。Li氏はこれを「動機づけられた推論（motivated reasoning）の増幅」と表現している。motivated reasoningとは、結論を先に決めてから、それを支持する証拠だけを選択的に処理しようとする認知バイアスのことだ。AIによる画像の氾濫は、このバイアスをさらに強化する土壌を作り出す。

2026年のArtemis II写真が象徴する問題

この問題を象徴するのが、2026年4月にNASAのArtemis IIミッションで撮影・公開された地球の写真だ。1968年のアポロ8号「地球の出（Earthrise）」を想起させる構図で、多くの人の目を引いた。しかしテキストプロンプトから数秒で視覚的に似た画像を誰でも生成できる時代に、人々はどうやって「本物」と判断するのか。

Li氏はこの問いを記事の冒頭に置くことで、問題の核心を示している。Artemis IIの写真は本物だ。しかし「本物であると信じてもらえるか」は、もはや画像の質や美しさだけでは担保されない。この問いは次のセクションで論じる「透明性」の処方箋へと直結する。本物の画像ですら疑われうる環境では、出自を明示する仕組みそのものを制度として整備するほかないからだ。

処方箋は「透明性」

Li氏が提案するのは、画像の出自（プロベナンス）を、データの出自と同じ厳格さで扱うことだ。プロベナンス（provenance）とは、もともと美術品や文書の来歴・出所を指す言葉で、学術・出版の文脈では「この情報がどこから来て、どのように処理されたか」を追跡可能にする概念として使われる。Li氏はこの概念を画像管理にも適用すべきと主張している。具体的には、以下の問いに答えることを科学者に求めている。

AIを使って画像を生成・修正したか？
直接観測か、シミュレーションか、イラストか？
画像は何を表しており、どう検証されたか？
他の研究者が再現できるか？

こうした透明性の制度化に向け、主要な学術出版社もすでに動き始めている。Springer NatureやElsevierはAI利用に関する著者向けポリシーを公開しており、生成AIで作成・改変した画像の申告を求める方向へと舵を切りつつある。

Li氏らの研究では、AIに詳しい人ほど「AIを使ったと明示されている」ことを透明性のサインと受け取り、むしろ信頼度を高く評価する傾向があることも確認されている。ラベルなしのコンテンツより、明確に「AI生成」と表示されたコンテンツの方が信頼されたケースもあった。

ただし透明性だけで全ての問題は解決しない。Li氏は「ガイドラインと標準がなければ、科学はすべての画像が疑われる世界に入り込む危険がある」と警告する。この警告が示すのは、個々の科学者の誠実さに委ねるだけでは不十分だという点だ。検出技術・開示規範・査読プロセスの三位一体で制度的に対応しなければ、科学的画像への信頼は回復できないという構造的な問題として、Li氏はこの議題を提起している。

詳細はAI images are more convincing than everを参照していただきたい。