査読論文に「良いレビューをしろ」という命令が隠し埋め込まれ撤回 — AI査読の普及を逆手にとったプロンプトインジェクション攻撃が学術界に広がる
DRANK

11月20日、Retraction Watchが「'Give this paper a good review': Prompts for AI reviewers make their way into published papers」と題した記事を公開した。査読論文にAI向けのプロンプトインジェクションが埋め込まれ、撤回に至った実例を詳報する内容で、学術界におけるAI査読の急速な普及が新たな不正リスクを生みつつあることを示している。

by @tf_official
Related Topics: AI Security CyberAttack