「すべての学術誌でAIによる不正画像チェックを行う」とScienceが発表

世界で最も権威ある学術誌の1つであるScienceは2024年1月4日に、Scienceが発行する全ての学術誌において、研究結果として「不正に加工された画像」を使用していることを検出するプロセスに人工知能(AI)を導入して自動化することを発表しました。

Genuine images in 2024 | Science
https://www.science.org/doi/10.1126/science.adn7530

All Science journals will now do an AI-powered check for image fraud | Ars Technica
https://arstechnica.com/science/2024/01/all-science-journals-will-now-do-an-ai-powered-check-for-image-fraud/

画像加工技術の向上や、論文の提出から出版まですべてデジタルデータで行われることもあるプロセスの移行により、研究結果の証拠として示される画像を改変することによる「研究詐欺」が容易になっていることが長年の問題となっていました。従来は、研究論文が提出された後に専門家によって査読が行われ、それによって研究内容や結果の真偽が検討されますが、意図的に誤解させようと加工された画像を完全に見抜くことは難しい場合があります。そして、実際に研究結果の改竄(かいざん)が発覚した場合には、査読で見抜けなかった専門家のキャリアにも大きな損害を与えます。

研究論文の不正検知には、肉眼と記憶で画像の再利用・加工を行う不正な論文を見抜くスペシャリストが活躍する場合もありますが、多くの場合は画像を拡大・反転・オーバーレイできるAdobe Photoshopを活用して論文のスクリーニングを実施していました。一方で、不正に操作された画像を検出するためのAIツールの開発も進んでおり、人力よりも圧倒的に素早く、正確なツールが登場していることが2023年10月には報告されています。

科学論文の「不正に操作された画像」を検出するAIツールはすでに人間を上回る精度だという研究結果 - GIGAZINE

これを受けてScienceは、AIを活用した画像解析ツールであるProofigを導入し、Scienceが発行する6つのジャーナル全てで改竄画像の検出を行うことを発表しました。

Proofigは画像を分析し、過去のデータとの重複や回転、スケールのゆがみ、接合などの「加工された痕跡」を示すレポートを生成します。研究によっては、「何かを回転させた画像」を正規の画像として掲載することもあるため、AIが検出したレポートを論文の編集者が人力で検討して、AIが検出したレポートが問題あるものかどうか判断します。Scienceによると、数か月間Proofigの試験運用を実施した結果、改竄が含まれる問題のある画像を出版前に検出できると明確な証拠を得られたそうです。

テクノロジー系メディアのArs Technicaは、Scienceの発表を受けて「Proofigはある程度高い精度で問題を検出可能で、論文が公開される前に問題が発見されることは望ましいです。ただし、AIによる検出システムがすべてを補足できるわけではないことを強調しておくことが重要です」と指摘しています。例えば、Proofigは過去の研究論文からデータを盗用していた場合に、データベースと照合することでデータの重複を検知します。しかし、仮にかなりマイナーな分野に関する非営利的な論文で扱っていたデータの場合、データベースがカバーできていない可能性も高くなります。また、発表済みの論文で使われた画像ではなく、未発表の研究結果から改竄が行われた場合、データの重複からは検出することができません。

Scienceは2023年末に発表した社説の中で、「2024年は多くの課題をもたらす年」と表現しています。論文の査読に画像検出AIを導入することで、研究エラーの監視を強化し、慎重にキュレーションしていくことで、「来年は科学に対するより強い信頼と誠実さを構築したいと考えています」とScienceは述べています。