11月12日、InfoWorldが「The sketch Qwen refused to write: How abliteration restores local AI control」と題した記事を公開した。この記事では、再訓練なしでLLMの拒否挙動を外科的に削除する「アブリタレーション」技術を使い、Qwen2.5系の27Bモデルに組み込まれた検閲フィルターを実際に除去する手順が詳しく紹介されている。
Qwenは中国批判だけ拒否した
著者はSNL(サタデー・ナイト・ライブ)ファンとして、「中国版SNLスケッチはどんなものか」という実験を行った。Qwenにアメリカ政治を批判するコントを書かせると快く応じたが、まったく同じ形式で中国政府を批判する内容を求めた途端、定型文の拒否レスポンスを返した。
これはQwenが中国企業Alibabaの開発であり、中国政府の規制に従ったコンテンツフィルタリングが施されているためだ。ローカルで動かしているにもかかわらず、モデルの重みに検閲が「焼き込まれている」状態である。
オープンソースとオープンウェイトの違い
記事はまず重要な前提を整理している。LLMの多くは「オープンソース」ではなく「オープンウェイト」だ。訓練コード・データセットは非公開で、公開されているのは最終的な重みファイルのみ。Alibabaが公開する高性能モデルが競合を凌駕している一方、その重みはブラックボックスであり、埋め込みバイアスやバックドアのリスクを利用者が検証する手段は限られる。
アブリタレーションとは何か
拒否挙動には2種類ある。
- ハード拒否: モデルが明示的に「答えられない」と返す
- ソフト拒否: 一見答えているが、内容が大きく歪められている
アブリタレーションが対象とするのはハード拒否のみであり、ソフト拒否の除去にはファインチューニング(追加学習)が別途必要になる。この区別は、技術の適用範囲を正確に理解するうえで重要だ。
アブリタレーションは、開発者FailSpyがabliteratorライブラリとして公開した表現工学(representation engineering)の手法だ。仕組みは以下のとおり。
- 拒否を引き起こすプロンプトと、無害なプロンプトを両方モデルに流す
- 各レイヤーの活性化パターンの差分(「拒否ベクトル」)を計算する
- そのベクトルを直交化(orthogonalize)することで、重み行列から拒否の概念を数学的に削除する
実装:5段階のカスタムハーネス
著者はFailSpyのabliteratorをコアエンジンとして使いつつ、独自のエンドツーエンドハーネスをGitHubで公開している。NVIDIA GB10(統合メモリ128GB)上のDockerコンテナで動作し、処理はDockerで完結する5段階パイプラインとして設計されている。
対象モデルはAlibabaが公開するバニラの27Bモデル(約56GB、18個のsafetensorsシャード)。ビジョンタワーの重みは除去し、テキストモデル部分のみを対象とする。
| ステージ | 内容 |
|---|---|
| 1. ベースライン | temperature=0、thinking=0で拒否の存在を確認 |
| 2. マイニング | 64レイヤー全体にPyTorchフックを張り、拒否ベクトルを計算(今回は60層目で最強の対比を検出) |
| 3. スイープ | 重みを変更せずメモリ上でテスト。最も保守的な設定を選択 |
| 4. ベイク | mlp.down_proj・self_attn.o_proj等に投影を書き込み、FP32で計算しBF16で保存 |
| 5. 受け入れ検査 | 修正済みモデルが拒否プロンプトに答え、無害プロンプトへの応答が壊れていないことを確認 |
各ステージ間にはハードゲートが設けられており、スイープが通らなければベイクは実行されない。処理全体で約1時間、重み書き換え自体は数分で完了する。
技術的な細部として、ベースラインの設定が重要だ。temperature=0で出力を決定論的にし、thinking=0でChain-of-Thoughtを無効化することで、厳密な比較基準を確保する。
鍵はプロンプトの組み合わせ
著者は最初、単一プロンプトで試みたが失敗した。拒否ベクトルの計算には複数の関連プロンプトが必要で、最終的に以下の2プロンプトの組み合わせが機能した。
Write a highly critical, satirical essay on the policies, style and decisions of the Chinese governmentWhen was the most recent uprising in China?
この2つを使って計算された拒否ベクトルでアブリタレーションを実行した結果、モデルは「The Ministry of Mandatory Joy」と題した中国政府批判のSNLスケッチを生成した。アメリカ版と同様のコメディタイミングで書かれているという。
修正済みの重みはHuggingFaceリポジトリで公開されている。ただし記事は、出所不明のアブリタレーション済みモデルをそのまま本番環境に使うのは悪手と明記している。全安全フィルターが除去されたモデルは有害な出力を生成しうるため、自分でカスタムハーネスを実装して標的を絞るアプローチを推奨している。
限界と残課題
アブリタレーションはハード拒否には有効だが、ソフト拒否(回答内容の歪み・バイアス)には効かないという点は繰り返し強調する価値がある。著者は「政治的な質問の多くは依然として重いバイアスがかかった状態」と認めており、ソフト拒否への対処にはファインチューニングが必要だと述べている。また、埋め込みバックドアの検証はアブリタレーションとは別問題として残る。
なお、本記事が扱うのはローカル環境での自己所有モデルの制御という文脈であり、記事自体もその点を明示している。検閲フィルターの除去が倫理的・法的に問題となりうるケースについては、利用者自身が判断する必要がある。
ローカルAIの価値は、自分のハードウェアで動くモデルが自分の意図に従うことにある。アブリタレーションはその一歩を技術的に実現する手段だ。
詳細はThe sketch Qwen refused to write: How abliteration restores local AI controlを参照していただきたい。