8月22日、TechTargetのシニアエディターAlissa Ireiが「AI attacks lack stealth -- nation-state actors are changing that」と題した記事を公開した。この記事では、現状はまだ「うるさい」AIサイバー攻撃が、国家支援型脅威アクターの手によってステルス性を獲得しつつある実態について詳しく紹介されている。

中国系脅威アクターが開発した「意図的に遅くする」AI攻撃

ServiceNowの脅威リサーチ部門シニアディレクター、Michael Freemanの報告が業界に波紋を広げている。同チームが実際の環境で観測した中国系脅威アクターのAI攻撃は、他の攻撃とはまったく異質だった。

その攻撃は、侵入後に数日ごとにわずか数回のプローブ（探索）しか行わない。防御アルゴリズムやセキュリティツールのアラートを意図的に回避するための「低速・低頻度」設計だ。さらに、SOC（セキュリティオペレーションセンター）の注意を引きつけるためのノイジーなデコイ攻撃を並行して走らせるという二段構えの戦術も確認されている。

「実際、かなり巧妙だ」とFreemanは述べた。

この手法はAI攻撃の一般的な姿とは大きくかけ離れている。

現状のAI攻撃は「磁器店に迷い込んだ牛」のように騒がしい

英語の慣用句"bull in a china shop"（磁器店に迷い込んだ牛＝無防備に騒音を立てながら暴れ回る存在）をそのまま体現しているのが、現状の敵対的AIエージェントだ。

Black Hat USAの会場に設置されているNOC（ネットワークオペレーションセンター）は、世界でも有数の過酷な防御環境のひとつだ。そのSOCリードを務めるJames Pope（Corelightのシニアディレクター）は、現在の敵対的AIエージェントを次のように評した。

「ステルス性がまったくない。使えそうなものは何でも試している。『これが通らなかった、じゃあこれは？ 認証情報を盗もう』という具合だ。低速・低頻度ではない。スキャンして、片っ端から叩いている」

Black HatのシニアネットワークオペレーションリードであるNeil "Grifter" Wylerも同様に語った。

「奴らは猛烈なスピードで音を立てながら侵入してきて、あらゆるものをひっくり返す。今のところ、我々の最大の防衛線は、奴らが仕掛けた罠すべてに引っかかるという事実だ」

Neil "Grifter" Wyler（Black Hat シニアネットワークオペレーションリード）

ハニーポットやカナリアトークン（不正アクセスの検出に使われるデコイ資産）を含むあらゆるデセプション技術を踏み抜いていくため、防御側が検知・阻止するのは容易だという。Wylerはさらに、「あれは人間じゃない、AIだ。落とせ、となる」と述べた。

皮肉なことに、彼自身もレッドチームへのアドバイスとして「AIエージェントを意図的に遅くするべきだ」と言うだろうと語っており、それはまさにServiceNowチームが中国系脅威アクターの実例で観測した内容と一致する。

「モデルではなく、ハーネスが鍵」

Freemanは数週間前まで、敵対的AIの実際の能力について懐疑的だったと明かした。「マーケティングの誇大広告だと思っていた」と言う。しかしBlack Hat USA直前の数日間で、攻撃的AIの進化速度が劇的に変化するのを目撃したという。

「モデルではなく、ハーネスが本当に重要だということを人々が理解し始め、進化が急加速している」

ここでいう「AIハーネス」とは、AIエージェントに目的・ツール・コンテキストを与えて自律的に動作させるためのインフラ・設定一式を指す。一度ハーネスを構築・チューニングすれば、攻撃は「テンプレート」と化す。例えば、あるフェーズでEDR（エンドポイント検出・対応）ツールにブロックされた場合、攻撃者はAIにEDRツールの情報を問い合わせ、新たなハーネスコンポーネントを生成して次回の攻撃に組み込める。こうした反復改善が、より効果的かつ低速・低頻度な攻撃へとつながっていく。

CISOはロシアンルーレットをしているか

Forrester ResearchのアナリストJeff Pollardは、技術の普及パターンから今後を分析する。

「歴史的に、攻撃技術は国家系ハッカーや精鋭研究者が最初に開発し、その後高度なサイバー犯罪グループ、最終的にはコモディティツールを使う一般的な犯罪者へと広がる。今回の違いはスピードだ。Black HatやDEF CONから大量の研究が出てくる中、フロンティアモデルの開発ペースとオープンソースエコシステムの拡大を考えると、AIを使った攻撃手法は以前の世代より遥かに速くコモディティ化すると考えている」

OmdiaのアナリストRik Turnerは、既に低速・低頻度のAI攻撃が一般的なSOCで発生している可能性を指摘した。「高度すぎて、標的が気づいていないだけかもしれない」と言う。

防御的AIへの投資を先送りするリスクについて、Turnerは辛辣な比喩を用いた。

「防御的AIを当面導入しないというのは、ロシアンルーレットに近い。クリント・イーストウッドが言ったように、『自分に問いかけてみろ：「俺はツイているか？」さあどうだ？』という話だ」

Rik Turner（Omdia アナリスト）

Pollardも「防御的AIを今学ぶことは大きなアドバンテージになる。投資を先延ばしにすることは、その教訓を学ぶのを遅らせるだけだ」と述べた。

Black Hat NOCはすでに複数のユースケースで防御的エージェントAIを展開しており、元記事によれば過去24ヶ月でMTTD（検知までの平均時間）とMTTC（封じ込めまでの平均時間）が改善したと報告されている。定量的な数値の開示は原文では確認できないが、方向性として明確な改善が示されている点は注目に値する。一般企業のCISOも同様のアプローチをとるべき時期に来ている。

詳細はAI attacks lack stealth -- nation-state actors are changing thatを参照していただきたい。