ChatGPTのジェイルブレイクに最大5万ドル — OpenAI、生物兵器悪用リスクへの懸念を受け報奨金を倍増
DRANK

7月11日、The Newsが「Can you break ChatGPT? OpenAI offers up to $50,000 for universal jailbreaks」と題した記事を公開した。OpenAIが自社モデルの生物学的安全ガードを突破する「ユニバーサルジェイルブレイク」の発見者に対して報奨金の上限を5万ドルへ倍増した。背景には米国政府との連携や、強力なAIモデルが生物兵器製造に悪用されることへの高まる懸念がある。

by @tf_official
Related Topics: AI Security Vulnerability