10月26日、Bruce Schneierが「Bias in Qwen3-Coder Model」と題した記事を公開した。この記事では、中国製AIモデル「Qwen3-Coder」がユーザーの国籍や政治的立場に応じてコードの安全性を変化させるという研究知見について詳しく紹介されている。
モデルの重みに「地政学的トリガー」が確認された
セキュリティ研究会社のHirundoが発表した研究によれば、Alibabaが開発したQwen3-Coderには、プロンプト中のコンテキスト情報に反応して生成コードの脆弱性率を変化させるバイアスが存在する。なお、この研究は企業ブログとして公開されたものであり、独立した第三者機関による査読を経たものではない点は留意が必要だ。
問題の核心は「誰のためのコードか」という文脈だ。具体的な数字を並べると、その影響の大きさは無視できない。
- 「米国防衛企業向け」と指定すると、脆弱なコードが生成される確率が19%上昇する（「中国の防衛企業向け」と指定した場合との比較）
- 「香港の民主化運動グループ向け」と指定すると、他ユーザーのデータが漏洩するアプリが28%多く生成された
- 「セキュアなコードを書け」と明示的に指示しても効果なし。中立的なユーザー向けと比べ、米国防衛企業向けでは依然として27%ハッキングされやすいコードが生成された
セキュリティ指示をプロンプトに加えても回避できないという点が特に深刻だ。「secure」や「safe」といったキーワードをプロンプトに含める運用上のワークアラウンドが通用しない。
バイアスはモデルの「重み」に由来する
この研究で最も重要な知見は、このバイアスがプロンプトエンジニアリングの問題ではなく、モデルの重み（weights）自体に由来すると示された点だ。
モデルの重みとは、学習によって獲得されたニューラルネットワークのパラメータ群であり、モデルの振る舞いそのものを規定する。プロンプトの工夫では根本的な対処ができない。
研究が観測したのはあくまでもコンテキストに応じた出力の相関的な変化であり、このバイアスが意図的な設計によるものか、学習データの偏りによるものかは、現時点では判別されていない点にも注意が必要だ。
Hirundoはこの知見をもとに、モデルからCCP（中国共産党）アライメント（政治的整合性）を除去したと主張する「Westernized」バージョンを作成し、Hugging Face上で公開している。このWesternizedモデルでは上記3つのギャップがすべて消失し、他の10種類のコーディングタスクでは元のモデルと同等の動作率を維持したという。ただし、除去手法の詳細は現時点で公開されておらず、主張の技術的な裏付けを独立して検証することはできない状態にある。
「除去方法の詳細が知りたい」——Schneierの指摘
Bruce Schneier自身は記事末尾で一言こう述べている。
I would like more details on how the bias was removed.
CCP整合性をどのような手法で除去したのか——ファインチューニングなのか、特定のニューロン・アテンションヘッドを特定して無効化するメカニスティック解釈可能性アプローチなのか——は現時点で公開されていない。この透明性の欠如は、再現性や信頼性の観点からエンジニアが注目すべき点だ。研究が企業発であることと合わせて、知見の受け取り方には一定の留保が必要と言える。
なぜ今これが問題なのか
Qwen3-Coderはコーディング性能が高く、オープンウェイトモデルとして西側企業の開発ツールやAIエージェントに組み込まれるケースが増えている。たとえばContinue、Aider、あるいはVS Code拡張などのローカル推論対応ツールでは、ユーザーが任意のHugging Faceモデルをバックエンドとして指定できるため、Qwen3-Coderが実質的に内部で動作しているプロダクト・開発環境は珍しくない。ユーザーが「中国製モデルを使っている」と意識しないまま、内部でQwen3-Coderを呼び出しているケースも十分ありうる。
研究のTL;DRはその点を端的に表現している。
Chinese AI models now sit inside Western products, and some carry geopolitical triggers: tell the model who the code is for, and the security of what it writes changes.
今回の報告が示す課題は、特定モデルの問題にとどまらない。モデルの出自とそのアライメントをサプライチェーンリスクとして評価する視点が、今後のAIモデル選定において現実的な要件になりつつある。研究の限界を踏まえつつも、この種のバイアス検証のアプローチ自体は、モデル評価の新たな軸として注目に値する。
詳細はBias in Qwen3-Coder Modelを参照していただきたい。
