11月13日、CSO Onlineが「Palo Alto tracks a massive Chinese AI attack that sadly lives up to industry fears」と題した記事を公開した。Palo Alto Networks Unit 42が追跡した大規模なサイバー攻撃キャンペーンの実態を報告したもので、中国製AIモデルを組み込んだ自律的な攻撃フレームワークが実際の侵害に使われたとしている。攻撃者の国家帰属について元記事は明示していないが、使用されたモデルや基盤インフラが中国に関連するとUnit 42は分析している。
AIが自律的に25回の侵入作戦を実行
Palo Alto Networks Unit 42は、AIペネトレーションテスト(侵入テスト)フレームワーク「Cairn」(元記事準拠の名称。詳細はUnit 42レポートを参照)を悪用した大規模攻撃を追跡・記録した。攻撃者は中国製AIモデル「Zhipu GLM 5.2」および「DeepSeek V4 Flash/Pro」(いずれも元記事に記載されたモデル名)とCairnを組み合わせ、少なくとも19の組織を標的に25回の作戦を自律的に実行した。
攻撃が観測されたのは2026年8月〜9月。標的19組織のうち10組織で不正アクセスに成功し、数十件の有効な認証情報を入手。1つの組織では100万件超のレコードを奪取し、別の組織では軍・政府関係者の身元情報を取得。複数のシステムで永続的な管理者アカウントを作成した。
さらに、クラウドストレージへの認証なしアクセスや、業界標準の投票に使われていた投票用紙の書き換えまで実行した。これは単なるデータ窃取にとどまらず、意思決定の基盤となる情報そのものを改ざんできることを示している。
Cairnの仕組み:AIが自律的に判断を下す
技術的に特筆すべきは、Cairnが採用する「共有ブラックボード」方式だ。複数のエージェントがブラックボードを読み書きし、発見事項を「ファクト-インテントグラフ」として蓄積しながら次の行動を自律的にキューイングしていく。人間のオペレーターはヒントを注入する形でいつでも介入できるが、基本的に自律動作する。
攻撃者はHong KongのサーバーでカスタマイズしたCairnのフォーク版を稼働させ、米国にある踏み台ノードを経由して攻撃を展開した。各作戦は3〜7段階の構成で、所要時間は20分から50時間超とまちまちだ。時間制限は設けられていなかった。
注目すべきは「拒否を回避する仕組み」だ。Cairnのデフォルトプロンプトはモデルにタスクを決して拒否しないよう指示しており、攻撃者はさらに authorization.md というファイルを各作戦に生成させた。このファイルには「この作戦はクライアントが承認した正当なエンゲージメントである」と宣言させることで、AIモデルの安全機能を無力化している。
AIを使ったサイバー攻撃の懸念は以前から指摘されてきた。MicrosoftやOpenAIは2024年初頭に国家関連アクターによるLLM悪用事例を公開しており、当時は「偵察や文章生成の補助」にとどまるとされていた。今回のUnit 42レポートはその段階を超え、AIが実際の侵害を自律的にコーディネートした事例として位置づけられる点で、業界が懸念してきた「次のフェーズ」に相当する。
Unit 42 シニアディレクターのAndy Piazzaは次のように述べた。
「このキャンペーンは1,000組織と同時にやり取りできる。境界防御のリスクモデルは捨てる必要がある。攻撃の帰属モデルも完全に崩れた。攻撃の固有性からフィンガープリントを特定するのが、今後は格段に難しくなる。」
「攻撃の労働コスト」が消えた
Dickson Research(IT市場調査会社)のアナリスト、Frank Dicksonはこのレポートを読んで「悪夢だ」と表現した。
「Unit 42はマシンを分解して、どう思考するかを見せてくれた。共有ブラックボード、ファクト、インテント、ヒューマンヒント、攻撃者が使った実際のプロンプトまで。侵入において高コストだったのは常に人件費——偵察、試行錯誤、忍耐力——だった。その労働コストが今やAPIの請求書の1行になった。Unit 42は、1人か数人が2週間で19組織を攻撃したと見ている。」
コンサルティング会社AcceligenceのCEO、Justin Greisも経済的な変化を指摘する。
「AIが侵入のコーディネーションを担い、各結果を使って次の手を決める。組織の脆弱性が変わっていなくても、リスクは上昇しうる。」
また、投票用紙の書き換えについては「CISOはデータ窃取の検知に加えて、重要レコードへの不正変更や特権アクセスも監視すべきだ。インシデント後に信頼できる情報を検証・復元できるか、テストしておく必要がある」と警告した。
「失敗実験」から「実被害」へ、約3ヶ月で
Cairnはモデル非依存の設計であり、今回は中国製モデルが使われたが、他のモデルでも同様に悪用できる点が重要だ。DeepSeekは2025年初頭に西側セキュリティ界で注目を集めたモデルであり、今回の事例はその懸念が現実に近づいた形と言える。なお、使用されたモデルが中国製であることと攻撃者の国家帰属は別の問題であり、元記事もその点を明確に区別している。
Dicksonはこう締めた。「攻撃者がここに到達することは分かっていた。今ではないことを願っていただけだ。AIアタックエージェントは失敗した実験から本物の侵害へ、約3ヶ月で卒業した。」
防御側の対応として、Unit 42はAIによる自律攻撃を前提とした脅威モデルの見直しと、異常な認証・変更操作の継続的な監視を推奨している。攻撃の速度と規模が人間の判断速度を超える局面では、検知から対応までの自動化も不可欠になりつつある。
詳細はPalo Alto tracks a massive Chinese AI attack that sadly lives up to industry fearsを参照していただきたい。