10月8日、PCMagが「Is That Image, Audio, or Video Made by AI? Google's AI Detector Will Tell You」と題した記事を公開した。この記事では、GoogleのAI生成コンテンツ検出ツール「SynthID Detector」が一般公開されたこと、およびその仕組みと対応状況について詳しく紹介されている。
GoogleのSynthID Detectorが誰でも使えるようになった
Googleは10月8日より、AI生成コンテンツ検出ツール「SynthID Detector」を全ユーザーに公開した。Google、Apple、またはOpenAIアカウントでサインインするだけで利用できる。
SynthID自体はすでに一定期間運用されてきた技術だ。Google DeepMindが開発したこの技術は、AIシステムが生成した出力物へのウォーターマーク埋め込みに使用されており、画像・音声・動画がGoogleのAIツールまたはSynthID対応パートナーによって生成されたかどうかを確認できる。昨年はジャーナリスト・メディア関係者・研究者向けにウェイトリスト形式でアーリーバージョンが提供されていたが、今回で完全に一般開放となった。
現時点ではChatGPTおよびGeminiが生成したコンテンツを検出可能だ。Appleは近くプログラムに参加する予定で、参加後はApple Intelligenceが生成した音声・動画・画像も検出対象になる見込みだ。
なお、SynthID Detectorが検出できるのはあくまでSynthIDウォーターマークが埋め込まれたコンテンツに限られる。SynthID非対応のツールで生成されたAIコンテンツは現時点では検出できない点に留意が必要だ。
ウォーターマークの仕組み
Googleによれば、ウォーターマークはコンテンツが生成された瞬間に埋め込まれ、画質や映像品質に影響を与えない。また、以下のような加工を施しても耐性を持つよう設計されているという。
- クロッピング（トリミング）
- フィルター追加
- フレームレートの変更
- 非可逆圧縮（lossy compression）
PCMagの記者が実際にChatGPTで生成したキッチンのリデザインモックアップをアップロードしたところ、元の出力ファイルとそのスクリーンショット、どちらをアップロードした場合でも生成元が正確に検出されたという。このスクリーンショット検出の確認は画像を対象としたものであり、音声・動画のスクリーンショットやキャプチャへの同様の対応については元記事では明示されていない。
データの取り扱い
Detectorの利用規約によると、Googleはアップロードされたメディアのデジタル署名を24時間保存する。目的は1日あたりの利用上限の管理と「自動化攻撃からサービスを守るため」であり、24時間後には自動削除される。
現在の対応規模と業界の動向
Googleはこれまでに1,800億点以上の画像・動画と、24万時間以上の音声コンテンツにウォーターマークを付与してきた。
AI生成コンテンツへのウォーターマークは業界全体で動きが加速している。
- Microsoft：AI生成の音声・動画・画像出力にウォーターマークを適用済み
- Meta：独自のAI画像検出器を提供
- OpenAI：今週、EU域内でChatGPTおよびCodexが生成するテキストへのウォーターマーク付与を数週間以内に開始すると発表
- Anthropic：8月にClaudeのテキスト・画像出力への不可視ウォーターマーク付与を開始済み
テキスト検出については依然としてサードパーティのツールが主流だが、プラットフォーム側のネイティブ対応が広がりつつある。
活用にあたっての注意点
SynthID Detectorは誰でも無償で利用できる実用的なツールだが、その有効範囲には明確な前提条件がある。SynthIDウォーターマークに対応しているのは現時点でGoogleのAIツールおよびプログラム参加パートナーのサービスに限られており、対応外のツールで生成されたAI画像・音声・動画については検出結果が得られない。「AI生成でないと判定された」場合でも、それはあくまで「SynthIDウォーターマークが検出されなかった」を意味するに過ぎない点は、ツールを実務で活用する際に意識しておく必要がある。
※編集部の考察：業界全体でウォーターマーク対応が進む中、SynthID Detectorのような横断的な検出インフラが普及すれば、対応プラットフォームの拡大とともにその実効性は高まっていく。ただし、ウォーターマーク非対応ツールの存在がある限り、単一のDetectorで「すべてのAI生成コンテンツを検出する」には至らないのが現状だ。
詳細はIs That Image, Audio, or Video Made by AI? Google's AI Detector Will Tell Youを参照していただきたい。
