8月1日、Ars Technicaが「Google Earth risked ruin with retracted AI tool for making fake satellite pics」と題した記事を公開した。衛星画像は紛争地帯の被害確認や領土問題の証拠として国際的に参照される「事実の基盤」だ。そこにAI画像生成機能を組み込んだGoogleは、信頼性への深刻な懸念を受け、機能を即座に撤回した。偽衛星画像が「本物として」流通するだけでなく、「本物の衛星画像をAI生成と言い逃れする」ための口実まで生まれかねない——そのリスクの全貌を記事は詳報している。
何が起きたか
Google EarthにAI画像生成機能が追加され、ユーザーが衛星画像を自在に加工・生成できるようになった——しかし、Googleはその機能をすぐに撤回した。
Googleの公式声明はこう述べている。
「地理空間の専門家がこの機能をさまざまな有益な目的で使用しているのを確認していますが、ポリシーに違反すると思われる生成済み画像のスクリーンショットが共有されているケースも確認しています。そのため、より強固なガードレールの実装に取り組む間、Google Earth のこの機能をロールバックします。」
撤回は行ったものの、声明の末尾は「将来的に機能を戻す可能性がある」というニュアンスを含んでいる。
何が問題だったのか
今回の問題の核心は、衛星画像の信頼性そのものへの影響だ。
セキュリティ研究者のEssは、GoogleのポリシーがAI生成画像の有害コンテンツ作成を抑止するはずだったにもかかわらず、ガザの病院に爆撃のクレーターがあるような場面を描写できてしまったと報告した。Google Earthは本来、現実世界の正確な映像を提供する信頼できる情報源として機能してきた。そこにAI画像生成機能を組み込むことは、その信頼性そのものを毀損するリスクをはらんでいた。
さらに深刻なのが、否認行為への悪用だ。Essは「本物の衛星写真を見せられた政府当局者やその他の関係者が、『これはAIで改ざん・生成されたものだ』と主張するための格好の口実を与えることになる」と指摘している。衛星画像を用いたオープンソース調査（OSINT）は、Bellingcatをはじめとする調査報道機関や研究者コミュニティが紛争地帯の検証に活用してきた手法だ。Google Earthのような権威あるプラットフォームでAI生成が可能になることは、そうしたエコシステム全体の証拠能力を揺るがしかねない。ジャーナリストや研究者がフェイク画像を検証する作業も、一層困難になりかねない。
SynthIDによる検証の限界
Ars Technicaは今回、Google EarthのAI機能で生成した画像に対し、GoogleのAI検出システム「SynthID」（AI生成コンテンツに不可視の電子透かしを埋め込む仕組み）を使った検証も実施している。
GeminiアプリでSynthIDチェックを実行したところ、「この画像の一部またはすべてがGoogle AIツールを使用して生成または編集されたことを示すデジタル透かしを検出しました」と応答した。透かし自体は画像の大幅な編集やデータ圧縮を経ても残存することが確認されている。
しかし、Essはこのアプローチに懐疑的だ。
「偽画像はファイルの認証情報が無傷なままで流通するわけではありません。スクリーン録画、再エンコード、スクリーンショットのスクリーンショット、誰かのスマートフォンで急いで撮影したもの——そういった形で拡散されるのです。」
実際、Ars Technicaがスマートフォンのカメラで加工済み画像を撮影してSynthIDによる検証を試みたところ、透かしは検出できなかった。さらに、SynthIDには1日あたり約10回という検証回数の上限も設けられている（※編集部注：この数値は元記事の報告に基づく。Googleの公式仕様は変更される場合があるため、最新情報はSynthIDの公式ページで確認されたい）。いずれにせよ、大規模な検証作業には向かない仕組みである。
衛星画像の信頼性をどう守るか
Essが提唱するのは、単一のツールへの依存を避けることだ。具体的には複数のソースを組み合わせた検証を推奨しており、欧州宇宙機関（ESA）が運用する「Copernicus Sentinel-2」のような継続的に更新される公開衛星画像ソースを活用することを勧めている。Sentinel-2は可視光・近赤外域での高解像度観測を定期的に行っており、改ざんされていない比較対象として有用だ。
Googleが機能を撤回したことで当面の懸念は払拭されたが、声明は将来的な再導入を示唆している。より強固なガードレールをどう設計するかが問われることになる。
詳細はGoogle Earth risked ruin with retracted AI tool for making fake satellite picsを参照していただきたい。
