8月17日、CSO Onlineが「Zhipu says new coding AI developed advanced cyber skills faster than expected」と題した記事を公開した。中国のAI企業Zhipuが開発した新コーディングAI「GLM-5.3」が、開発者の予想を上回るペースで脆弱性の自律的な発見能力を習得したと報告されており、その規模と速度がセキュリティ研究者の間で波紋を呼んでいる。コーディングAIがこうした能力を「意図せず」獲得したという事実は、AI安全性の議論においても見逃せない事例だ。

予想外の速さで「脆弱性発見能力」を獲得

中国のAIスタートアップZhipu（智谱AI）が開発したコーディングAI「GLM-5.3」が、セキュリティ研究者の間で波紋を呼んでいる。同社の発表によると、このモデルが269のオープンソースプロジェクトにわたって2,436件の脆弱性を特定し、そのうち1,097件が中〜高severity（深刻度）に分類された。

Zhipuが開示したセキュリティレジャー（発見記録）の内訳は以下の通りだ。

現時点で公開済みは53件のみ。残る2,383件はエンバーゴ（公開猶予）中であり、段階的な開示が進む見込みだ。

「1981年」のコードに眠り続けた脆弱性

特筆すべきは、発見された脆弱性の"古さ"だ。データセット内で最古の脆弱性は1981年のコードにまで遡る。また、発見された脆弱性がコードベースに存在し続けていた期間の平均は26.6年にのぼる。

つまり、GLM-5.3が掘り起こしたのは「新しいバグ」ではなく、長年見過ごされてきた既存コードの地雷だ。スキャン対象はシステムカーネル、OS、ブラウザエンジン、オープンソースインフラ、Webアプリケーション、ネットワークプロトコルと広範に及んでいる。

「想定より早かった」という開発者自身の驚き

今回の件でより注目されるのは、Zhipu自身が「予想より速く脆弱性発見に関わる能力を習得した」と認めている点だ。コーディングAIが脆弱性スキャンや攻撃的なセキュリティスキルを自律的に発展させることは、AI安全（AI Safety）の文脈で長らく議論されてきたリスクシナリオに近い。

このような「能力の予期せぬ出現」は、AIの**創発的能力（emergent capabilities）**と呼ばれる現象に対応する。特定の能力を直接訓練したわけではないのに、モデルのスケールアップや訓練データの変化によって突然その能力が現れるケースを指す。OpenAIやAnthropicの安全性レポートでも繰り返し言及されているリスク項目だ。

地政学的な文脈

ZhipuはGPT-4に匹敵する性能を目指すGLMシリーズを開発する中国の主要AIラボの一つで、清華大学との連携が深い。米国の輸出規制による半導体調達制限の中で開発を進めており、高性能なコーディングAIの開発競争において存在感を示している。

2,383件の脆弱性がエンバーゴ解除された場合、オープンソースエコシステムへの影響は無視できない規模になる。現時点では調整的な開示（coordinated disclosure）が進められているとされるが、開示プロセスの透明性については外部から確認する手段が限られている。

エンジニアが気にすべきこと

• 対象ソフトウェアの範囲が広い：カーネルからWebアプリまでほぼあらゆるスタックが含まれる
• エンバーゴ中の2,383件：今後段階的に公開されるため、依存OSS（オープンソースソフトウェア）のセキュリティアドバイザリを継続的に追う必要がある
• 「26.6年」という数字の意味：静的解析や既存の脆弱性スキャナが見落としてきた問題をAIが発見できる可能性を示している

詳細はZhipu says new coding AI developed advanced cyber skills faster than expectedを参照していただきたい。