10月22日、Gergely Oroszが「The Pulse: Time to rethink software security because of AI?」と題した記事を公開した。Oroszが運営するニュースレター「The Pragmatic Engineer」の定期コーナー「The Pulse」の一回として配信されたもので、AIを悪用したセキュリティ侵害が急増する中、ソフトウェアセキュリティの考え方を根本から見直す必要があるかどうかを論じている。The Pulseは毎号複数のトピックを取り上げる形式であり、本号ではセキュリティインシデントの連続発生とAnthropicをめぐる開発者コミュニティの議論という、二つの独立したテーマが扱われている。

1日で「1ヶ月分」のセキュリティ侵害が発生

記事が最も強調するのは、たった1日のうちに複数の大規模セキュリティインシデントが連続して発生したという事実だ。Oroszはこれを「1ヶ月分の侵害が1日に凝縮された」と表現している。

これらのインシデントに共通するのが、AIの活用だ。攻撃者側がAIをツールとして取り込み、従来の手法では難しかった規模・速度・精度での攻撃を実現している。防御側も同様にAIで対抗せざるを得ない状況になりつつあるが、現状では攻撃側が優位に立っているとOroszは指摘する。

記事ではAIが生成したコードを通じてセキュリティ上の脆弱性が埋め込まれるという、AIコード生成時代特有のリスクを象徴する事例も取り上げられている。開発者がAIの出力を十分に検証しないままプロダクション環境へ投入することで、意図せず攻撃の入り口を作ってしまうリスクが現実のものとなっている、というのが記事の主張だ。OWASP Top 10が長年指摘してきたインジェクション系の脆弱性が、AIコード生成というルートで改めて拡大する構図ともいえる。

Anthropicのバージョン管理機能をめぐる開発者コミュニティの議論

本号のもう一方のトピックが、AnthropicのAIツールに追加されたバージョン管理的な機能をめぐる議論だ。Anthropicが新たに発表した当該機能について、既存のツールやオープンソースプロジェクトのアイデアと酷似しているとして、開発者コミュニティから批判的な声が上がっている。

記事ではこの議論の経緯とコミュニティの反応が紹介されている。ただし記事のトーンは盗用を断定するものではなく、AIラボが急速にプロダクト開発を進める中で、既存のエコシステムやOSSコミュニティとの関係をどう扱うかという問いを提起する形にとどまっている。大企業がOSSのアイデアを吸収しながら独自機能として展開することへの緊張は以前から存在するが、AI分野の開発速度が上がるにつれてその摩擦が表面化しやすくなっているという背景がある。

「攻撃者はAIで加速し、防御者は追いつけていない」

記事全体を通じてOroszが問いかけているのは、現在のソフトウェアセキュリティの前提が、AI時代に通用するかどうかだ。

従来のセキュリティモデルは、攻撃者のリソース（時間・知識・マンパワー）に一定の上限があることを前提に設計されている部分が大きい。しかしAIはその前提を崩す。スクリプトキディ（セキュリティの専門知識を持たず、既存のツールや手法をそのまま流用する攻撃者）でも、AIを使えば高度な攻撃を仕掛けられる時代になりつつある。

防御側の対応としては、AIを活用したコードレビューや脆弱性検出の強化が挙げられる。GitHub Advanced SecurityやSnykのようなツールはその方向の取り組みを体現しているが、Oroszはそれだけでは不十分だと示唆している。セキュリティの設計思想そのものを見直す段階に来ているという論点だ。

エンジニアへの示唆

Oroszが記事で提示している問いは抽象的ではなく、現場のエンジニアにとって直接的な問題だ。

• AIが生成したコードを、どこまで信頼してレビューなしに使うか
• 自分のプロジェクトのセキュリティモデルが、AI時代の攻撃を想定しているか
• OSSやツールのアイデアを大企業が取り込む構造的な問題にどう向き合うか

セキュリティとOSSコミュニティという一見異なる二つのトピックは、「AIの急速な普及が既存の前提を壊している」という点で記事の中で一本につながっている。「AIで開発が速くなった」という恩恵の裏側に潜むリスクを、改めて直視させる内容となっている。

詳細はThe Pulse: Time to rethink software security because of AI?を参照していただきたい。