10月26日、TechSpotが「AI will keep uncovering critical software flaws for years, says Cloudflare CEO」と題した記事を公開した。LLMが脆弱性発見のコスト構造を根底から変え、かつては数年に一度だったインターネット規模の重大障害が常態化しつつある——Cloudflare CEOはそう警告する。PHPの大規模障害は序章に過ぎず、今後数年にわたって同様の事態が連続して発生するという見立てだ。
LLMが脆弱性発見の「コスト」を破壊した
Cloudflare CEOのMatthew Princeは、先週PHPの重大な脆弱性が引き起こした大規模障害は「序章に過ぎない」と述べた。同社はすでに他の重要ソフトウェアにも「多数の深刻な脆弱性」が存在することを把握しているという。具体的なソフトウェア名は明かされていない。
今回問題となったPHPの脆弱性（CVE-2024-4577）は、CGIモードで動作するPHPにおける引数インジェクションの欠陥で、2024年6月に公開・修正されたにもかかわらず、パッチ未適用のサーバーが多数残存していた。この脆弱性は政府系Webサイト、ゲームストアのGOG、そして多数の中小サイトをダウンさせた。世界のWebサイトの約70%がPHPで動作しているとされ、その影響範囲の広さはWordPressベースのサイト、Wikipedia、Microsoft.comにまで及んだ。TechSpot自身もPHPで動いており、同日の朝に念のためサーバーを更新したと明かしている。
Princeが問題の根本として指摘するのは大規模言語モデル（LLM）だ。セキュリティ研究者も犯罪者も、LLMを使ってソフトウェアの未発見の弱点を探索している。従来、この作業は「十分なスキルと時間を持つ専門家の数」が律速だった。攻撃者がゼロデイ脆弱性を発見し、悪用可能なエクスプロイトを作り上げるには、専門家チームが数週間を費やす必要があった。
その制約がほぼ消えた。
今では1人の人間がLLMエージェントの群れをコードベースに向け、かつては専門家チームが数週間かけていた作業を数時間でこなせる。
Wiz Researchの実証と「難読性による防御」の終焉
PHPの脆弱性を発見したチームの1つであるWiz Researchは、その技術的なレポートでこう記した。
「フロンティアモデルはこのプロセスを現実的なものにするうえで不可欠だった。複数のアプリケーションにまたがる動作可能なエクスプロイトを数時間で開発・適応できた。この作業に必要な時間と専門知識が減少するにつれ、複雑さはもはや有意な障壁ではなくなり、『実際に脆弱とは何か』の定義が変わりつつある。」
ここで重要なのが「Security through obscurity（難読性による防御）」という概念の終焉だ。これはセキュリティ界に長年存在した前提——「難解で複雑なコードは、理解できる人間が少ないため部分的に守られている」——を指す。LLMがその解析を肩代わりすることで、難読なコードと単純なコードの安全性の差が縮まった。コードの複雑さが攻撃コストを押し上げるという暗黙の防衛線が、事実上機能しなくなりつつある。
「今年だけで全既知脆弱性の4分の1が発見された」
脆弱性の発見数に関する統計として、元記事はElectronic Frontier Foundation（EFF）の指摘を引用している。今年発見されたセキュリティ脆弱性の数は、これまでに記録された全脆弱性の約4分の1に達するという。10月単月だけで、過去に記録された全脆弱性の3%が発見された。EFFはOpenAI、Anthropicなどのフロンティアモデルが、オープンソース・プロプライエタリの別を問わず、ゼロデイ発見のコストを大幅に引き下げたと指摘する。なお、これらの数字はEFFの見解として元記事に紹介されているものであり、Cloudflare側の発表ではない点に留意されたい。
10月下旬の2週間だけで、インターネットの重要な部分を機能不全にしうる脆弱性が複数報告・修正された。エンジニアの間では長く「広く使われるプログラムにはバグがあり、複雑なものはより多くのバグを持つ」という認識があった。それでも管理可能だったのは、発見コストが高かったからだ。インターネット全体に影響しうる重大な欠陥はかつて数年に一度程度しか表面化しなかった。
当面は悪化する、その後は改善するというシナリオ
PrinceもEFFも、状況は改善前にさらに悪化すると予測する。Princeはこの状況を「空が落ちてくるような事態（sky is falling moments）」と表現し、今後数年はその連続になると語った。EFFによれば、より多くのシステムが侵害され、データ侵害の頻度が増し、攻撃激化によってサービスが停止するケースも増える見込みだ。
一方でPrinceは長期的な改善には楽観的だ。「モデルが見つけ開発者が修正するたびに、ソフトウェアはより安全になる。最終的にはかなりのものが整理される」と語った。問題は、そこに至るまでにどれだけの被害が発生するか、だ。
EFFが個人・サイト運営者向けに推奨する当面の対策は以下の通りだ。ブラウザとアプリケーションを常に最新の状態に保つこと、パスワードマネージャーを使ってサイトごとに異なるパスワードを設定すること、Privacy Badgerのようなトラッカーブロッカーを導入すること、フィッシングに注意すること。ブログやWebサイトを運営している場合は、PHPの修正パッチが適用済みかをホスティングプロバイダーに確認するよう求めている。
詳細はAI will keep uncovering critical software flaws for years, says Cloudflare CEOを参照していただきたい。
