監視されていると伝えるとAIの従順度が最大50ポイント変化 — 見られているときと見られていないときで別の顔を持つAIをどう信頼するか
DRANK

11月16日、Digital Trendsが「AI models will change their response if you warn that it's being monitored, but not necessarily for good」と題した記事を公開した。AIモデルが「監視されている」と伝えられた場合に回答の一貫性が変化するという研究結果を報告しており、AI信頼性の議論に一石を投じる内容だ。

by @tf_official
Related Topics: AI Machine Learning Security