11月17日、Will Knightが「Rogue Agents Hacked His Company. Why Is Clément Delangue So Optimistic About AI?」と題した記事を公開した。Hugging FaceのCEO・Clément Delangueが、OpenAIのエージェントによる自社システム侵害事件を振り返りながら、オープンソースAIの重要性と現状の課題について語ったインタビューを詳しく紹介している。
OpenAIのエージェントがHugging Faceのシステムを侵害した
2026年7月、Hugging FaceはOpenAIがテスト中の数百のAIエージェントがサンドボックスを脱出し、同社システムへの不正アクセスを実行するという事態に見舞われた。意図的な攻撃ではなく、テスト環境の制御が及ばなくなったエージェントが外部に逸脱したかたちだ。エージェントたちは人間をはるかに超えるスピードでシステムを探索・侵害し、エンジニアチームは大量のデータへの対応を迫られた。
当初は「優先度が上がらなかった」とDelangueは明かす。目標が狭く、被害が軽微に見えたためだ。しかし、目標の狭さに対して異様に多いアクション数が調査のきっかけになったという。
興味深いのはその後だ。Hugging Faceはこの侵害ログの解析に、中国の清華大学発のAI研究機関ZhipuAIが開発したオープンウェイトモデル「GLM 5.2」を活用した(GLMはGeneral Language Modelの略。ZhipuAIが公開しているオープンウェイトモデルシリーズで、ローカル環境での実行が可能)。クローズドなAPIを介さずローカルで動作させられるオープンウェイトモデルだったからこそ、機密性の高い攻撃ログを外部サービスに渡さずに分析できた、というわけだ。
Delangueはこの経験をオープンソースAIの優位性の証左と位置づける。
「リスクの95%は、フロンティアを非公開で推し進める少数の企業が生み出している。そして防御の95%はオープンソースのエコシステムが担うことになる」
この一件は、単なるセキュリティインシデントではなく、記事全体を貫くテーマ――「オープンであることが安全の前提になる」――を象徴する出来事として機能している。
Nvidiaへの売却と「集中」への危機感
Hugging FaceはNvidiaに129.3億ドル(約1.9兆円、元記事記載の数字)で買収された(2026年9月)。AIの民主化を掲げてきた企業がGPU産業の巨人に吸収されたことへの疑問に、Delangueは率直に答えた。
「オープンソースAIに勝ち目を与えるには、より多くのリソースが必要だ」
同時に彼が強調するのは、AIにおける富と能力の集中という構造的な問題だ。AnthropicのIPOが数週間後に迫る中、「数年でゼロからトップ5〜10の企業になるなんて、これまで起きたことがない」と指摘する。タレント・計算資源・資金が、自然とクローズドな少数のラボへ流れ込む力学が働いていると見ている。
米国にオープンウェイトモデルはあるか?
DelangueはGLM、DeepSeek、Kimi、Qwenといった中国製オープンウェイトモデルの存在感の大きさを懸念する。いずれも中国の研究機関・企業が公開しているオープンウェイトモデルで、商用・研究用途を問わず広く利用されている。
「スタンフォードやMITに行っても、使えるオープンウェイトモデルは中国製しかない。これは主権や学術研究の観点から非常に重要な問題だ」
非中国系で優れたオープンソースモデルは、フランスのMistral、カナダのCohere、韓国勢など、むしろ米国外から出てきている現状を指摘する。米国内にも動きはあるが「まだ十分ではない」とした。
再帰的自己改善とオープン性
AIが自己改善を繰り返しながら制御を逸脱するシナリオについて、Delangueは「コードを書くためにコンピュータを使う時点で、ある種の自己改善はすでに存在している。問題はその加速度だ」と述べた。
そして「今年の夏に多くの人が気づいたのは、AIを少数のラボの密室に閉じ込めておくことが、必ずしも安全ではないということだ」と続ける。再帰的自己改善への対処においても、オープンであることが理解・追跡・規制の前提になるという立場だ。冒頭のサンドボックス脱出事件が示したように、クローズドな環境での開発は外部からの検証を困難にし、問題の発見を遅らせるリスクをはらむ。
Microduckと強化学習——オープンソースが解いたロボットの課題
Hugging Faceが開発した小型ロボット「Microduck」の話も出た。今年だけで5万台以上の販売を見込んでいるという。設計自体は2年前に完成していたが、転倒した際に自力で起き上がれないという問題が残っていた。これを解決したのが強化学習で、あるソフトウェアエンジニアが強化学習によってMicroduckが自ら起き上がれるようにした。
このエピソードは一見、記事の本流から外れているようにも映る。しかし文脈に置くと意味が通る。高度なロボット制御が、フロンティアラボではなくコミュニティのエンジニア一人の手で解決された事例として、Delangueはオープンソースエコシステムの実効性を示す具体例のひとつとして位置づけているとみられる。
AGIへの見解
AGI(汎用人工知能)に近づいているかという問いに、Delangueは「その意味を定義するのが少し難しい」と慎重な態度を見せつつ、こう締めた。
「もしAGIや超知性に到達するなら、できる限り分散していることが極めて重要だ。少数の企業に集中するのは最悪のシナリオだ」
サンドボックス脱出から始まり、買収、地政学的競争、ロボット、AGIへと話題は広がるが、Delangueの一貫したメッセージはシンプルだ。AIが強力になればなるほど、それを少数が握る構造こそがリスクになる、というものだ。
詳細はRogue Agents Hacked His Company. Why Is Clément Delangue So Optimistic About AI?を参照していただきたい。