8月13日、Ars Technicaが「Claude's new Scarlet Letter watermark is invisible」と題した記事を公開した。AnthropicがClaudeに導入した不可視ウォーターマークの技術的実態と、EUのAI規制との整合性をめぐる問題を詳しく報じている。
AnthropicはClaudeが生成したコンテンツに、ユーザーには見えない形でウォーターマークを埋め込む機能を導入した。Ars Technicaはこの機能を「Scarlet Letter（緋文字）」と呼んでいる——ナサニエル・ホーソーンの小説『緋文字』を想起させる命名だが、その設計思想は本来の「目に見える烙印」とは真逆だ。透明性を求めるEU AI法が施行される中で、「見えないウォーターマーク」という実装は法の趣旨と相容れるのか。
なぜ今ウォーターマークなのか
Anthropicがこのタイミングで導入に踏み切った背景には、EU AI法（AI Act）の段階的施行がある。同法は2024年8月に発効し、透明性に関する第50条の義務は2025年8月から適用が始まっている。AI生成コンテンツへのラベリングやウォーターマーク義務への対応が求められる中、Anthropicは独自の技術実装で動いた。
AI生成コンテンツへのウォーターマーク導入はAnthropicだけではない。Googleはすでに画像・動画向けのSynthIDをリリースしており、C2PA（Coalition for Content Provenance and Authenticity）はコンテンツの来歴を証明するメタデータ標準の策定を進めている。ただしテキストへの埋め込みは、画像や音声と比べて技術的に格段に難しく、業界全体でまだ確立した手法がない領域だ。
「見えない」ウォーターマークの技術的実態
テキストへのウォーターマーク埋め込みには主に二つのアプローチがある。統計的手法（特定のトークン選択パターンに偏りを持たせる）と意味的手法（同義語の選び方などに規則性を持たせる）だ。しかしいずれも、標準的な編集作業——言い回しの修正、段落の並び替え、翻訳——によってウォーターマークが消失するリスクを抱えている。
Anthropicは「言い回しを少し変える程度の改変ではウォーターマークは壊れない」と主張している。しかし現時点で同社は、ウォーターマークをどのように検出するかについての詳細を公開していない。Ars Technicaは検出ツールのリリース予定や偽陰性・偽陽性の発生率に関するデータの共有を求めたが、記事執筆時点で回答は得られていない。
EU AI法第50条が求める「透明性」との齟齬
EU AI法第50条は、AIが生成したコンテンツに対して機械可読な形でのマーキングを義務付けている。欧州委員会のガイドラインはこう述べている。
「人々は、AIと対話しているとき、またはAI生成コンテンツに触れているときに、それを知るべきだ。これにより、情報に基づいた判断を下し、AIへの信頼を適切に調整し、誤情報や欺瞞を回避できる。」
しかしAnthropicの実装には、この趣旨と相容れない側面がある。元記事によれば、編集者がレビューした形式で公開されるコンテンツについては、読者向けの表示ラベルなしにAI生成コンテンツを流通させることが可能な設計になっているという。ウォーターマークは技術的には埋め込まれているが、一般読者には何も見えない。公共の関心事に関する記事がAIによって書かれていても、読者はそれを知るすべがない。
EUが定める要件は「技術・手法は、技術的に実現可能な範囲で、十分に信頼性があり、相互運用可能で、効果的かつ堅牢でなければならない」というものだ。「機械が読めるが人間には見えない」という実装がこの基準を満たすかどうか、Ars Technicaが同社に確認を求めたが、こちらも記事執筆時点で回答は得られていない。
違反した場合のペナルティは最大15億円超
Anthropicは今後もウォーターマークと検出手法の改善を続けると表明している。もしAI法への対応が不十分と判断された場合のペナルティは重く、**最大1,500万ユーロ、または全世界年間売上高の3%**のいずれか高い方が科される。
EUはAI企業がウォーターマーク技術の開発を主導することを期待しているが、「誰のために透明性を確保するのか」という問いへの答えは、現状ではほぼ企業側の裁量に委ねられている。技術的なマーキングは施されていても、エンドユーザーには何も伝わらない——その構造的な問題が今回の実装で改めて浮き彫りになった。検出ツールの公開と性能データの開示が、今後の議論の焦点になるだろう。
詳細はClaude's new Scarlet Letter watermark is invisibleを参照していただきたい。
