9月10日、Cybersecurity Diveが「Threat groups enhance cyberattack capabilities with AI」と題した記事を公開した。国家連動型・犯罪ハッカー集団がエージェント型AIや自動化技術をサイバー攻撃に組み込み、攻撃の速度と規模を拡大しているという、Googleの脅威インテリジェンスグループ（GTIG）による調査報告の内容だ。
「すべての脅威アクターがAIを使っていると考えていい」
GTIGが火曜日に公開した報告書によると、国家が背後にいるハッカー集団や犯罪組織が、AIを攻撃フレームワークに組み込む動きが加速している。
GTIGのチーフアナリスト、John Hultquistはこう述べた。
「この時点で、すべての脅威アクターが何らかの形でAIを活用しており、その作戦は強化されていると考えていい。AIがエージェント的に適用されるようになると、より規模が大きく、より速い敵対者が生まれる。これは特に厄介な問題になる」
エージェント型AI（Agentic AI）とは、人間の介入を最小限に抑えつつ、目標達成のために自律的に判断・行動するAIシステムのことを指す。攻撃への応用という文脈では、偵察→脆弱性発見→エクスプロイト実行という一連の工程を自動化・高速化できる点が問題視されている。
具体的な攻撃事例：中国・イラン系グループがAIを実戦投入
報告書が最も生々しいのは、具体的な攻撃キャンペーンの記述だ。
中国系グループ（政府機関を標的とする諜報グループ）は、AI支援の自動エクスプロイトおよびポストエクスプロイト（侵入後の活動）パイプラインを構築した。「CC Switch」と呼ばれるツールを使い、Claude・Gemini・Codexなどの複数のLLMに対してクエリを送信し、カスタムエクスプロイトスクリプトの生成や、標的を絞ったスピアフィッシングの囮コンテンツ作成に活用していた。なお、Codexは現在OpenAIによって非推奨・廃止済みのモデルであり、報告書はあくまで当時の利用実態を記述したものと理解されたい。
Basin Castleは本報告書においてGTIGが中国系と追跡・命名しているグループで、LLMを使って高価値ターゲットのプロファイリング、ローカライズされたソーシャルエンジニアリングの囮の開発、カスタムマルウェアの作成を行っていたことが確認されている。
Calanque Ionは同じく本報告書でGTIGがイラン系と追跡・命名しているグループで、GoogleのGeminiを含む生成AIを偵察とソーシャルエンジニアリングに活用した。具体的には、メールアドレスの特定、現地語に合わせた囮コンテンツの生成、多言語への翻訳、さらにソフトウェアのリバースエンジニアリングの試みにも使用していたことが報告されている。
AIモデル自体が標的になっている
攻撃の対象がAIシステムそのものにも向いている点は、見落とされがちだが重要な観点だ。
報告書によると、脅威アクターはモデル蒸留（model distillation）キャンペーンに関与している。一部は1億プロンプトを超える規模の組織的なキャンペーンで、GoogleのAIモデルに対してモデルのロジック・推論能力・思考連鎖プロセスを抽出することを目的とした攻撃が行われているという。
また、攻撃者はプロキシインフラを展開し、侵害済みの認証情報や不正アカウントへのアクセスを取得することで、標準的なセキュリティコントロールを回避しようとしている。
防御側が取るべき認識と対応の方向性
研究者たちは、今後の攻撃においてAIが何らかの役割を果たすことを前提として防御戦略を組み立てるべきだと警告している。GTIGはこれ以前にも、フロンティアAIを攻撃に組み込む脅威アクターの動向を報告しており、今回の報告書はその延長線上に位置する。
AIが偵察・エクスプロイト・マルウェア生成・言語ローカライズにまで及ぶ攻撃チェーン全体に組み込まれつつある現状は、個別の脆弱性パッチや既存のシグネチャベースの検知だけでは対応が追いつかないことを示している。報告書が示す含意として、防御側には以下のような姿勢の転換が求められる。
- AI活用を前提とした脅威モデルの再設計：スピアフィッシングや偵察の精度・速度が従来比で大幅に向上している前提でリスクを評価する
- AIモデルおよびAPIアクセスの監視強化：自社が利用するAIサービスへの不正アクセスや大量クエリによるモデル抽出攻撃への備えが必要になる
- 認証情報管理の徹底：攻撃者がプロキシ経由で侵害済み認証情報を使ってセキュリティコントロールを回避している実態を踏まえ、クレデンシャル漏洩の早期検知と多要素認証の徹底が一層重要になる
詳細はThreat groups enhance cyberattack capabilities with AIを参照していただきたい。
