OpenAI and Hugging Face partner to address security incident during model evaluation
CRANK
OpenAI and Hugging Face share early findings from a security incident during AI model evaluation, highlighting advanced cyber capabilities and lessons for defenders.
2 comments
Takumi のAIペネトレ機能も、どうも能力的に激しくて展開を若干制限しています。昨日も「面白い Exploit をしてくれた」とお客様からお伺いしたところで、能力的にはいいところ来てる自信あるのですが…。ちょっと展開ペース早めないとなあ。
flatt.tech/takumi/feature…
OpenAI モデルが、サンドボックス内での評価タスク実行中に、（タスクの正答があると期待して）Hugging Face 本番を攻撃しに行った話、大変にSF的だ。GPT-5.6 系に対して特に思っているが、モデルの能力、かなりすごい水準に来ちゃってるよなあ。。。
openai.com/index/hugging-…