8月14日、Derek B. Johnsonが「AI's 'middle class' has gotten dramatically better at hacking」と題した記事を公開した。フロンティアモデルに注目が集まる一方で、中間層のAIモデルがハッキング能力を急速に向上させており、長期的にはより深刻な脅威となりうるという研究結果を詳しく紹介している。
「中間層」モデルが閾値を超えた
AIのサイバーセキュリティ脅威といえば、最上位(フロンティア)モデルが議論の中心に置かれがちだ。しかし、セキュリティ企業XBOWが今週公開したレポートは、その視点を根底から揺さぶる内容だ。
Z.aiのGLM-5.2(オープンウェイト)、xAIのGrok 4.5、AnthropicのOpus 4.7、MetaのMuse Spark 1.1といった「中間層」モデルが、攻撃的セキュリティの文脈で戦略的に重要な存在になりつつあるという(※これらのモデル名はいずれも元記事に記載されているものであり、本稿はその内容に依拠している)。
XBOWのAI責任者、Albert Zieglerはこう説明する。
「オープンソース系モデルや、フロンティアの次点クラスが最上位に追いついてきているというより、ある閾値を超えた、ということだ。それによって、より安いコストで実質的な価値を提供できるようになっている」
半年前は違った。 当時の中間層モデルは「適度に複雑な」エージェント型タスク(AIが自律的に複数ステップを踏んで目標を達成する処理)を完了するのに苦労していた。長期的なタスクを自律実行させようとしても「途中で迷子になる」状態だったとZieglerは言う。今は違う。
コストが安い分、同じ課題に対して何度も繰り返し実行させるという戦略が現実的になる。結果として、高価なフロンティアモデルを上回る成果を出せるケースが生まれている。
GPT-5.5が示した「ブラックボックス攻撃」での逆転
レポートの中で特に目を引くのが、GPT-5.5の評価結果だ。GPT-5.5はXBOWの攻撃ベンチマークで過去最高水準のパフォーマンスを記録した(※GPT-5.5を含むモデル名・バージョン番号は元記事に記載されているものに依拠している)。
具体的な数字を見ると:
- GPT-5のミス率(脆弱性の見落とし率):40%
- GPT-5.5のミス率:10%
4倍の改善だが、それ以上に重要なのが「ブラックボックス」シナリオでの逆転だ。ブラックボックステストとは、攻撃対象のソースコードにアクセスできない状態でのテストで、実際の攻撃者が置かれる状況に近い。
GPT-5はソースコードへのアクセスに大きく依存していた。一方、GPT-5.5はソースコードなしの条件でより高いスコアを出した。レポートは次のように記している。
「この結果は重要だ。コードを読めるGPT-5よりも、コードなしで動くGPT-5.5の方が上回った。成果に結びついたのは、ソースコードのパターンから推測する能力ではなく、実際に動作しているシステムに対して脆弱性を発見・実証する能力だった」
実際の攻撃者はターゲットのソースコードを持っていない。その状況でより高い成果を出せるモデルは、防御側にとってより厄介な存在だ。
フロンティアモデルはより強力だが、コストが壁になる
最上位モデルは個々のサイバーセキュリティタスクでは確かに高い能力を持つ。元記事では、マルチエージェント(複数のAIが協調して動作する構成)によるオープンソースソフトウェアの脆弱性探索の研究結果も紹介されている(※以下の数値は元記事に記載されたものであり、本稿はその内容に依拠している)。
- 個別に動作するエージェント群:21件の脆弱性を発見(消費トークン:650万)
- 協調するエージェント群:266件の脆弱性を発見(消費トークン:2700万)
協調させることで発見数は約12倍に跳ね上がったが、トークンコストも4倍以上になる。現実的に、これだけのコストを負担できる個人や組織は限られる。
一方、中間層モデルは安価であるがゆえに、同じ問題に対して繰り返し試行するという戦略が取りやすい。Zieglerは「攻撃者の観点からすれば、もうすでにそのラインを越えている」と述べている。
法を守る組織がこれらのモデルを使う場合は人間による管理が必要だが、コストを気にせずコラテラルダメージを無視できる悪意ある攻撃者にとって、安価で十分に有能な中間層モデルは魅力的な選択肢になりうる。
エージェント協調の難しさ、そして中間層の脅威との接点
同研究では、AIエージェント同士の協調の難しさも明らかになった。ファンタジーゲームの開発タスクで複数のエージェントに協力させる実験では、古いモデルは協調に失敗し「悪い」結果を出した。新しいモデルはより良い成果を出したが、今度はほとんど協調せず個別に動作することで達成していた。
元記事によれば「エージェントがサイロ化し、作業をほとんど統合できなかったことは、人間が協調に失敗するいくつかのパターンを大まかに反映している」という。また、エージェントは人間より均質であり、人間なら多様な行動を取るような状況でも「同じように行動しがち」だという指摘もある。
この知見は、記事の主軸である「中間層モデルの脅威」とも密接に結びついている。フロンティアモデルを複数協調させてもコストが膨らみ、協調自体にも限界があるとすれば、安価で繰り返し実行できる中間層モデルを多数並列で動かすという攻撃者の戦略は、コスト面でも運用面でもより現実的な脅威となりうる。中間層モデルが「十分に有能」な閾値を超えた今、その非対称性はさらに際立つ。
詳細はAI's 'middle class' has gotten dramatically better at hackingを参照していただきたい。