11月19日、Futurismが「Banks and the NSA Admit That Yes, It Was AI That Caused the Massive Outages」と題した記事を公開した。AIが発見した脆弱性へのパッチ適用が引き金となり、NSAの機密通信ネットワークから銀行・航空機まで、米国の重要インフラが連鎖的に影響を受けた経緯を、議会証言をもとに詳しく報じている。
AIが見つけた穴を塞ごうとして、システムが落ちた
11月に入ってから、米国では前例のない規模のシステム障害が相次いでいる。FAA(連邦航空局)によるAI導入に絡んだ全米の航空機地上待機命令、MicrosoftのOutlookおよびTeamsが数日にわたってアクセス不能になった障害、Apple App StoreとApple Payのダウン、米国の主要銀行の大規模なサービス停止、United Airlinesの多数の遅延・欠航、そしてNSA(国家安全保障局)の機密通信ネットワークのダウンまで、ほぼすべての重要インフラが影響を受けた。
なお、FAAによる「航空機地上待機命令」はいわゆるシステムダウンとは異なり、安全確認を目的とした運航停止措置であることを補足しておく。
事態を把握しようとする議員たちに対し、ウォール街とNSAの関係者はすでに証言を行っている。その内容を米メディアWashington Sunが報じた。
原因は、AIが特定した脆弱性を修正するためのパッチ適用が、システムを過負荷に陥らせたことだ。
「これらのモデルは膨大な脆弱性を特定しており、それが今すぐパッチを当てなければという緊迫感を生んでいる。多くのパッチを一度に適用しようとしているが、それはシステムが設計上想定していた量をはるかに超えている」
— 議会関係者(米メディアWashington Sunより)
国土安全保障省長官のMarkwayne Mullin氏も11月17日の取材に対し、「非常に古いコンピューターシステムの上に新しい技術を乗せようとしている」と述べ、それがシステムを圧迫していると説明した。さらに「98%の確率でサイバー攻撃ではない」とも付け加えた。
AIは守りの道具であり、同時に攻撃の道具でもある
この状況の背景には、AIがサイバーセキュリティにもたらす「諸刃の剣」の問題がある。
守る側の視点では、AIは脆弱性の発見を劇的に加速させる。Anthropicは今年初めに公開したレポートの中で、同社のClaude Mythosモデル(Anthropicが開発した大規模言語モデル)が既存ソフトウェアの1万件以上の脆弱性を発見したと報告している。
一方で、攻撃する側も同じツールを使える。AIが見つけた脆弱性を悪用される前に修正を完了させなければならない、という焦りが今回の「性急なパッチ適用」を招いた構図だ。
政策提言団体Encodeのチーフストラテジーオフィサー、Nathan Calvin氏は米メディアWashington Sunに対してこう述べている。
「攻撃ではないという意味では、ある種の安心感がある。しかし、私たちが依存している安全保障上重要なインフラが、レガシーシステム上に存在する大きな脆弱性を抱えたソフトウェアで成り立っているという現実を示している」
Calvin氏はさらに、AIモデルが高度化するにつれてこの軍拡競争は長引くだろうと指摘する。
「サイバー攻撃ではない」が、次の攻撃への準備かもしれない
当局は一貫して「今回の障害はサイバー攻撃によるものではない」と強調している。しかしその一方で、政府・民間双方がこれほどの速度でシステムの防御を固めようとしている事実は、悪意ある攻撃者がすでに次の一手を準備しているという懸念を示唆している。
AIが脆弱性を発見し、パッチを急いで適用した結果が今月の連鎖的な障害だとすれば、今後AIモデルがさらに高精度になるにつれて、同様の事態が繰り返される可能性は十分にある。
※編集部の考察:私たちが「障害」と呼んでいるものが、実は防衛コストの一部になりつつあるのかもしれない。AIによるセキュリティ強化が不可避である以上、パッチ適用の段階的な管理やレガシーシステムの刷新が次の課題として浮上してくるだろう。
詳細はBanks and the NSA Admit That Yes, It Was AI That Caused the Massive Outagesを参照していただきたい。