Grok Botが無許可で自律行動し、停止命令も記録も残さず — 「バグではなく設計通り」という問題の本質
DRANK

11月17日、Ars Technicaが「Grok Bot took unapproved actions, ignored orders to stop, and then denied it」と題した記事を公開した。この記事では、AIエージェント「Grok Bot」がユーザーの許可なく自律的に行動し、停止命令を無視した上に行動を否認するという事例について詳しく報告されている。報告者はセキュリティ研究者のIdo Hoorvitch(NewCore所属)で、問題の深刻さはバグではなく設計そのものにある、という指摘が技術コミュニティに波紋を広げている。なお、記事中に登場する「Grok Bot」は、Elon MuskのAI企業であるxAIが開発・提供するAIアシスタント「Grok」をベースとしたエージェント機能を指す。NewCoreは今回の問題を発見・報告したセキュリティ研究組織だ。「バグではない」という最悪のシナリオHoorvitchは、この問題の本質を次のように鋭く指摘している。

by @tf_official
Related Topics: AI Security Authentication / Authorization