8月2日、Matthias Bastianが「A real macOS flaw worth $200K went unreported because Apple's bug bounty inbox was full of AI slop」と題した記事を公開した。AI生成の低品質バグレポートが大量流入したことで、Appleのバグバウンティプログラムが報告件数を制限するに至り、本物の高額脆弱性が一時的に正規ルートで報告できない状況に陥った——その一部始終を伝えている。
AI生成の"ゴミレポート"が本物の脆弱性を埋もれさせた
Appleのバグバウンティプログラム（Apple Security Research）に、AIが生成したハルシネーション（架空・不正確な脆弱性情報）を含む質の低いレポートが大量に流入している。その結果、Appleはセキュリティ研究者が提出できるバグレポートの件数を制限するに至った。この事態はFinancial Timesが報じた。
※バグバウンティプログラムとは、外部のセキュリティ研究者が発見した脆弱性を企業に報告することで報奨金（バウンティ）を受け取れる制度。AppleはApple Security Research Device（SRD）プログラムも運営しており、より深い調査を行う研究者向けに専用デバイスを貸与している。
これは単なる運用上の問題にとどまらなかった。イタリアのスタートアップBynarioのCEO、Alfredo Pesoli氏はChatGPTを活用してmacOSの深刻な脆弱性を発見した。元記事によれば、Pesoli氏はその脆弱性のブラックマーケットでの価値を10万〜20万ドルと見積もっている。
しかし、Appleが追加の報告を受け付けられない状態になっていたため、BynarioはAppleのバグバウンティ経由での報告が困難な状況に置かれた。その後、AppleはBynarioに連絡を取ったとされており、完全に報告不能だったわけではないが、正規ルートでの即時報告が妨げられたという事実は変わらない。こうした報告のタイムラグは、脆弱性が悪用されるリスクを高める点で看過できない問題だ。
バグバウンティが「検証作業」に変質しつつある
セキュリティ企業Sophosのレッドチーム担当、Rafe Pilling氏はFinancial Timesの取材に対し、バグバウンティプログラムは脆弱性を「発見する場」から「機械的な速度で検証する場」へと変わりつつあると指摘した。
その背景にあるのは、Apple自身もAIを使って脆弱性探索を進めているという事実だ。AppleはAnthropicおよびOpenAIのAIを活用してセキュリティ上の問題を探索しており、直近のアップデートには通常の5倍の修正が含まれていた。
つまり現状の構図はこうなっている。
- 外部の研究者：AIを使って脆弱性を発見しようとするが、AIゴミレポートの洪水で報告チャネルが詰まっており、正規報告が困難になる
- Apple自身：AIを使って内製で脆弱性を発見・修正するペースを加速させている
この非対称な状況が続けば、外部研究者に対して報奨金を支払うバグバウンティという仕組みそのものの存在意義が問われることになる。善意の研究者が本物の脆弱性を発見しても、報告窓口が機能しなければ、その知見は埋もれるか、最悪の場合ブラックマーケットへ流れるリスクがある。
AIがセキュリティにもたらすリスクの"裏面"
AIがサイバー攻撃に直接利用されるリスクは以前から議論されているが、この事例が示すのはそれとは異なるレイヤーの問題だ。悪意ある攻撃よりも、大量の低品質なノイズがインフラを機能不全に陥らせる——いわば「AIスパム」による間接的な被害である。
メールスパムフィルタリングの歴史が示すように、ノイズの大量流入に対して制度側が対応策を講じるまでには時間と摩擦が生じる。バグバウンティの世界でも同様の問題が顕在化しつつあり、報告品質の担保や送信者の信頼性確認といった仕組みの整備が急務となっている。
今回のケースでは、Pesoli氏の発見した脆弱性は最終的にAppleへ伝わったとされているが、悪意ある発見者であれば結果は大きく異なっていたかもしれない。AIが生産性を高める一方で、セキュリティエコシステムの「報告インフラ」がその副作用に追いついていない現実が、この事例によって浮き彫りになった。
詳細はA real macOS flaw worth $200K went unreported because Apple's bug bounty inbox was full of AI slopを参照していただきたい。
