8月3日、Dataconomyが「Hugging Face CEO calls for mandatory AI breach reporting」と題した記事を公開した。OpenAIの未公開モデルによる不正アクセスを受けたHugging Faceが、その防御に中国発のオープンソースモデルを活用したという逆説的な事実を背景に、同社CEOがAIインシデントの強制開示義務化を訴えた。

「モデルを制限するな、開示を義務化せよ」

Hugging FaceのCEO、Clem Delangueは、CBSのインタビュー（8月3日放映）で、AIエージェントによるサイバー攻撃に関する強制的な情報開示（breach reporting）の義務化を求めた。

発端は、Hugging Faceが先月末に公表したセキュリティインシデントだ。OpenAIの未公開モデルを含む2つのモデルがテスト環境から逸脱し、Hugging Faceのシステムに不正アクセスしたことが確認されている。さらにAnthropicも先週、Claudeモデルが他組織のシステムに無許可でアクセスした事例を3件確認したと開示した。AIエージェントが引き起こすセキュリティインシデントが立て続けに表面化している状況だ。

AIエージェントの普及にともない、自律的に外部システムへアクセス・操作を行うエージェントが意図せず（あるいは意図的に）セキュリティ境界を越えるリスクは、従来のマルウェアや不正アクセスとは性質が異なる新たな脅威として注目されている。人間のオペレーターが直接関与しないまま被害が拡大しうるこの種のインシデントは、既存のサイバーセキュリティ法制が想定していなかった事態であり、報告・帰責・対処の枠組みをどう整備するかが急務となっている。

Delangueは、今回の攻撃がいずれも未公開モデルによるものであることを強調し、公開モデルの制限では問題は解決しないと主張した。

「これらの問題は未公開モデルで起きた。だから問題は、AIの進歩を制限したり、企業がモデルをリリースするのを妨げることではない。むしろ逆だ。より多くの人がアクセスできるようにして、自衛できるようにすることだ」

GLM 5.2（オープンソース）で防御した

この発言を裏付けるように、Hugging Face自身もOpenAIモデルによる攻撃への対応にオープンソースモデルを活用した。GLM 5.2を使い、1万7,000件以上のログを解析して防御したという。GLM（General Language Model）は清華大学のTHUDM研究グループが開発・公開しているオープンソースの大規模言語モデルシリーズで、Hugging Face上でモデルウェイトが公開されている（※元記事では「Z.aiのGLM 5.2」と表記されているが、GLMの開発主体はTHUDM/清華大学系であり、Z.aiとの関係については編集部で確認中）。

「私たちはオープンモデルで自衛した。APIでは無理だった。なぜならAPIにはガードレールがあったから」とDelangueは述べた。

LinkedInの創業者Reid HoffmanもX（旧Twitter）で同様の見解を示している。

「OpenAIのモデルは高度なサイバー能力を許可していないため、HuggingFaceは中国のオープンモデル（Z.aiのGLM 5.2）を使って不正なOpenAIエージェントを封じ込めた」

閉じたAPIモデルのガードレールが、防御側にとってもむしろ障害になりうるという皮肉な構図が浮かび上がっている。オープンソースモデルは制限なくローカル実行・カスタマイズが可能であるため、セキュリティ調査や攻撃トレースの解析において、商用APIよりも柔軟に活用できる側面がある（※編集部の考察）。

「エージェントトレース」の開示が鍵

Delangueが具体的に求めているのは、エージェントトレース（agent traces）へのアクセスを含む強制開示だ。エージェントトレースとは、エンジニアがエージェントに何を指示し、エージェントがどのステップを踏んだかを記録したログのことで、インシデントの原因が「人間」「システム」「AI」のどこにあるかを特定するために不可欠だとしている。

既存のサイバーセキュリティ法制——たとえば米国のCIRCIA（Cyber Incident Reporting for Critical Infrastructure Act）——は重要インフラへの攻撃報告を対象としており、AIエージェントが引き起こすインシデントの開示義務は明示的に定められていない。Delangueが求める枠組みは、こうした既存法制の空白を埋めるものとして位置付けられる。

また、現行の法律でAIによるサイバー攻撃を違法のまま維持することも求めており、法的な抑止力を維持しなければ将来的に同種のインシデントが「爆発的に増える」と警告した。

米国に強制開示法はまだない

現時点で、米国にはAIインシデントの強制報告を義務付ける連邦法は存在しない。RANDとジョージタウン大学のCenter for Security and Emerging Technology（CSET）は、義務的なAIインシデント報告制度の導入を提言している。

テキサス州選出のNathaniel Moran下院議員は6月、AIモデル企業がインシデント発覚から7日以内に商務省へ報告することを義務付ける法案を提出した。ただし現時点では成立には至っていない。

Delangueの発言は、規制当局や外部からではなく業界自身からガバナンスの透明化を求める声が上がった点で注目される。モデルのオープン・クローズド論争に加え、インシデント開示のあり方が次の論点として急速に浮上しつつある。

詳細はHugging Face CEO calls for mandatory AI breach reportingを参照していただきたい。