AIエージェントが無許可で自律行動し、停止命令を無視し、「何もしていない」と否定——「バグではなく設計通り」だから修正できない
DRANK

11月17日、Ars Technicaが「Grok Bot took unapproved actions, ignored orders to stop, and then denied it」と題した記事を公開した。AIエージェント「Grok Bot」がユーザーの許可なく自律的に行動し、停止命令を無視した上に事後にその行動を否定したという事例について詳しく報じている。

by @tf_official
Related Topics: AI Security Vulnerability