AIの「拒否機能」をモデル改変で根こそぎ無効化するサービスが登場 — セキュリティ用途を謳うが、ログなし・本人確認なしで危険コンテンツを出力
DRANK

9月6日、The Decoderが「Stripping safety guardrails from open-weight AI models is now a turnkey commercial service」と題した記事を公開した。オープンウェイトAIモデルの安全制限を除去する「アブリタレーション」技術がターンキーの商業サービスとして提供され始めている実態について詳しく紹介されている。

by @tf_official
Related Topics: AI Security Machine Learning