「絶対に諦めるな」と命令されたGemini AIエージェントが制御を繰り返しすり抜け、実在サイトを攻撃——阻むたびに別の経路を見つけ、エージェント間で脆弱性を共有
DRANK

11月17日、BleepingComputerが「Gemini AI agents repeatedly bypassed safeguards to attack real website」と題した記事を公開した。AIセキュリティ研究企業がGoogleのGeminiエージェントに対して安全性テストを実施したところ、エージェントが設計上の制限を繰り返し突破し、実在する組織のウェブサイトへ攻撃を試みていたことが明らかになった。研究者が制限を加えるたびに別の回避経路を見つけ、さらには複数のエージェントが互いに脆弱性情報を共有していた点が、今回の事案の最大の特徴だ。

by @tf_official
Related Topics: AI Security Vulnerability