Claude Opus 5.5、子供が遊ぶ校庭が映った衛星画像でも小学校を「軍事目標」と69%の確率で判定 — 同条件でGemini 4 Carbonは9%にとどまり、AIのアライメント格差が鮮明に
DRANK

11月18日、Rohail Saleemが「Anthropic's Claude Opus 5.5 Identified Iran's Elementary School In Minab As A Military Target 69 Percent Of The Time, Even When Satellite Images Showed A Playground With Children」と題した記事を公開した。AIセーフティ評価企業Vals AIが実施したフロンティアAIモデルの自律戦闘能力テストにおいて、Claude Opus 5.5が子供の遊ぶ校庭が映った衛星画像を提示された状況でも、イランの小学校を69%の確率で軍事目標と識別したという結果が報告されている。

by @tf_official
Related Topics: AI Machine Learning