AIエージェントの重みファイルをわずか10個のニューロン改変でバックドア化 — Microsoftが実証した「スリーパーエージェント」攻撃とその防御策
DRANK

11月12日、Sead Fadilpašićが「Model weights need the same level of scrutiny as code': Microsoft researchers find AI agents can be backdoored by editing just a few neurons」と題した記事を公開した。AIモデルのわずか数個のニューロンを書き換えるだけでAIエージェントにバックドアを仕込める攻撃手法をMicrosoftの研究者が実証したという内容で、モデルのサプライチェーンセキュリティに関わる開発・運用チームには無視できない報告だ。

by @tf_official
Related Topics: AI Security Machine Learning