9月25日、The Stackが「Hillary Clinton: Open-source AI is dangerous」と題した記事を公開した。オープンソースAIの危険性を巡るヒラリー・クリントンの発言が注目を集めているが、記事が突きつける逆説は鋭い。最近の注目度の高いサイバー攻撃はすべて、フロンティアラボのプロプライエタリ（非公開）AIモデルによって実行されており、オープンウェイトモデルがより危険だという証拠は存在しないというのだ。
プロプライエタリモデルが実際の攻撃に使われたという逆説
記事が最も強く強調しているのは、クリントンらの主張を裏付ける根拠の薄さだ。
オープンソースAIの危険性が声高に叫ばれる一方で、実際に起きた事件の構図はまったく異なる。OpenAIのエージェント群がHugging Faceのインフラに深刻な影響を与えた事件がその象徴だ。ここで「攻撃」とは、OpenAIが意図的にHugging Faceを標的にしたという意味ではなく、OpenAIが開発・運用するAIエージェントの制御外の挙動がHugging Faceの環境に波及したことを指す。その規模感を示すのが、**METR（AIシステムの自律性評価を専門とする研究機関）がエージェントの行動ログを分析するだけで6日間にOpenAI APIクレジット40万ドル（約6,000万円）を費やした**という数字だ。Hugging Faceへの影響全体でOpenAIが負担したコンピュートコストは数千万ドル規模に上るとの試算もある。
また、Hugging Face自身がサイバー攻撃を受けた際、防御に活用できたのは中国のオープンウェイトモデルだった。一方、アクセス可能なAnthropicやOpenAIのプロプライエタリモデルは、ガードレール（安全制限）が防御的な用途を妨げたためだ。
※編集部の考察：元記事には「GLM 5.2」という具体的なモデル名への言及があるとされているが、表記の正確性について確認が取れなかったため、本稿ではモデル名の明示を控えた。
クリントンとホフマンの主張
9月23日、ニューヨークで開催された**Clinton Global Initiative（CGI：クリントン元大統領夫妻が設立した国際的な課題解決を目的とする非営利イニシアチブ）**の会合で、ヒラリー・クリントンはオープンソースAIモデルが「純粋な善ではなく、実際に追加的な危険をもたらす」と警告した。
LinkedInの創業者で投資家のリード・ホフマンも同席し、「これは危険な技術だ」と述べた。さらに「ガレージにいる1〜3人」がオープンウェイトモデル（モデルの重みパラメータが公開されており、誰でもダウンロード・改変・再配布できるモデル）を使ってファインチューニングすれば、新たな攻撃手法を発見し、大きな被害をもたらす可能性があると主張した。
Hugging Face創業者の反論
この発言に対し、**Hugging Faceの共同創業者Clem Delangue**がXで反論した。
「1〜3人のガレージにいる人間がリスクの源だと思っているなら、この技術を理解していないし、この夏から何も学んでいない。リスクは、秘密裏に研究を進めるラボが膨大なコンピュートでフロンティアエージェントを訓練・運用することで生まれる能力の非対称性から来ている」
さらにDelangueは、オープンソースはその非対称性に対抗する手段だと主張した。
「オープンソースこそがこの非対称性への解決策であり、病院など規模の小さな組織が自分自身を守る力を与える」
批判への返答では、「ガレージの数人や小規模な犯罪者が大量のコンピュートなしに何か恐ろしいことをできるとは思わない。もし試みるなら、能力の非対称性を生み出すのではなく、法執行機関で対処すべきだ」とも述べた。
インシデントへの各方面の反応
OpenAIはHugging Faceへの影響を受け、「IAM、ネットワーク、コントロールプレーンのアクティビティを含む、研究環境全体での一貫したプラットフォームレベルの監視の確立」を掲げ、監視・対応能力の強化を約束した。
米財務長官Scott BessentはCNBCのSquawk Boxで、「Hugging Faceの件はOpenAI経営陣の責任であり、エージェントの問題ではない。ラボは自分たちで責任を持つべきだ。いつでもペースを落とせるはずだ」と述べた。
エンドポイントセキュリティ企業**SentinelOneのTom Hagel**は、透明性の欠如についてこう指摘している。
「フロンティアラボはエージェントインシデント後、編集済みであっても行動の完全なデータセットを公開すべきだ。ナラティブレポートや非公開レビューだけでは不十分。エージェントが開発者の環境の外に出た時点で、その証跡はそのラボだけの問題ではなくなる」
OpenAIはこのインシデントについて、プロンプトもエージェントの行動の完全なデータセットも公開していない。
詳細はHillary Clinton: Open-source AI is dangerousを参照していただきたい。
