8月3日、TechRadarが「Chinese GLM-5.2 steals the spotlight after Hugging Face breach」と題した記事を公開した。この記事では、Hugging Faceのサイバー攻撃インシデントをきっかけに、中国製オープンソースAIモデル「GLM-5.2」が脚光を浴び、米国のオープンウェイトAI規制論争が再燃している状況について詳しく紹介している。

米国製AIが拒否した仕事を、中国製AIが担った

Hugging Faceで発生したサイバーインシデントの調査中、同社のエンジニアは想定外の壁にぶつかった。OpenAIやAnthropicのモデルが、セキュリティ調査に必要なリクエストを軒並み拒否したのだ。

元記事によれば、AnthropicのモデルはサイバーセキュリティRelated の質問を旧来の低性能モデルに振り向け、OpenAIのモデルはハッキング関連の作業と見なされるリクエストを受け付けなかったという。安全ガードレールが、正当な防御的調査と悪意ある攻撃を区別できなかった形だ。

なお、元記事で言及されている各モデルの具体的な名称については、現時点で公知のモデル命名規則と異なる表記が含まれており、誤記・誤訳の可能性を排除できないため、本記事では固有名称の引用を控える。

その結果、Hugging Faceのエンジニアが頼ったのが中国のZhipu AIが開発したGLM-5.2（オープンソースモデル）だった。GLM-5.2はこれらの制約を持たず、インシデント調査で生成された情報の分析に対応した。

この構図の皮肉は明白だ。米国政府がまさに中国製オープンウェイトAIの利用規制を検討しているタイミングで、米国を代表するAI企業のモデルが防御側の仕事をこなせず、中国製モデルがその穴を埋めた。

「守る側に制限をかける安全規制は逆効果だ」

このインシデントはセキュリティ研究者の間で議論を呼んでいる。

「守る側を制限しながら、攻撃者側には高性能モデルが利用可能なままという状況は、非対称な不利益を生む」
— Lukasz Olejnik（キングス・カレッジ・ロンドン、戦争研究学部 上席研究員）

Hugging FaceのCEO兼共同創業者Clement Delangueも声明を出している。

「秘密主義は答えではない。一部の選ばれたチームだけでなく、すべての防御側が、制限のない、より強力なモデル——特にオープンなもの——を必要としている」

なお、OpenAIはインシデント後、Hugging Faceを「Trusted Access（信頼済みアクセス）」プログラムに追加し、通常より高い権限でモデルを利用できるようにしたと明かしている。このプログラムは審査を通過した組織に対し、より幅広い能力を開放する仕組みだ。ただし、こうした措置が事後対応であった点は変わらない。

規制論争：200社近いシリコンバレー企業が反対

Washington側では、中国製オープンウェイトAIモデルのダウンロード禁止を含む規制強化の検討が続いている。

ここで言う「オープンウェイト」とは、モデルの重みパラメータ（ニューラルネットワークの学習済み数値データ）を一般に公開しているモデルを指す。APIを通じてのみ利用可能なクローズドモデルとは異なり、誰でもローカル環境にダウンロードして実行できるため、利活用の自由度が高い一方、利用用途のコントロールが困難という側面もある。GLM-5.2やMetaのLlamaシリーズがその代表例だ。

規制強化の背景には、中国のAI開発者によるモデル蒸留——既存の高性能モデルの出力を使って低コストで新モデルを訓練する手法——や輸出規制違反の疑いがある。

これに対し、新たに結成された「Little Tech Association」を含む約200社のシリコンバレー企業が規制に反対している。同団体の創設者Suhail Doshiは「そんなことをすれば、数百社が即座に潰れる」と警告。中国製オープンウェイトモデルへの依存度が高い小規模スタートアップへの打撃が大きく、恩恵を受けるのは大手プロバイダーだけだと主張する。

一方、アナリストからは慎重な見方も出ている。Robert W. BairdのShrenik Kothari氏は、今回のインシデントをガードレール撤廃の根拠にすることへの懸念を示し、「アクセス制御を洗練させるべきであり、安全策を捨てることが答えではない」と述べた。セキュリティ研究の実務的なニーズに応えつつ、能力の割り当てをより選択的に行うアプローチを提唱している。

安全設計の根本的矛盾

今回の一件が示した構図は、AI安全設計が抱える根本的な矛盾を浮き彫りにしている。防御側が制限されたモデルに縛られ、攻撃側は制限のないモデルを自由に使えるという非対称性が、現実のインシデント対応の場で顕在化した。

米中AI競争という大局で見れば、米国が自国モデルに安全ガードレールを課す一方、それを緩やかに設定したオープンウェイトモデルが国際的に普及するという構図は、単なる「規制の抜け穴」問題にとどまらない。誰がAIの能力を実効的にコントロールできるか、という主導権争いの一断面でもある。

オープンウェイトモデルの規制が普及を止めるどころか米国スタートアップの競争力を削ぐだけだという反論は根強く、かといってガードレールを撤廃すれば安全設計の議論そのものが後退する。OpenAIがインシデント後に設けた「Trusted Access」プログラムのような、用途・組織を限定した能力開放の仕組みが現実解となりうるかどうか、今後の動向が注目される。

詳細はChinese GLM-5.2 steals the spotlight after Hugging Face breachを参照していただきたい。