AnthropicのAI生成テキスト検知機能、旧Claudeモデルでは3つのサンプリングパラメータのいずれか1つを変えるだけで無効化できる抜け穴が判明
DRANK

11月1日、The Decoderが「Anthropic's watermark rollout leaves a loophole on two older Claude models」と題した記事を公開した。AnthropicがEU AI Act対応として旧Claudeモデルへウォーターマークを拡大展開する中、特定の旧モデルではサンプリングパラメータを変更するだけで検知機能を回避できる抜け穴が存在することが明らかになった。3つのパラメータのいずれか1つで回避できる抜け穴今回のアップデートで注目すべき制約がある。Claude Opus 4.6(Anthropicが現時点でのベストなライティングモデルと位置づけるモデル)とClaude Sonnet 4.6(Opus 4.6の下位に位置するテキスト生成モデル)については、ウォーターマークが機能するのはtemperature・top_p・top_kの3つのサンプリングパラメータがすべてデフォルト値のままの場合に限られる。これらは生成時の単語選択のランダム性を制御するパラメータで、3つのうちいずれか1つを変えるだけでウォーターマークが付与さ...

by @tf_official
Related Topics: AI AI Text Generator