8月4日、Charlie Geroが「AI is Coding Us Into a Corner」と題した記事を公開した。この記事では、AIコーディングツールが既存の技術的負債を解消しながら、同時に将来の深刻なセキュリティ問題を構造的に生み出している実態について詳しく論じられている。

AIは「平均的なプログラマー」である

AIコーディングツールへの信頼が崩れ始めている。

Loopstudioの「2026 State of AI in Software Development Report」によると、AI生成コードへの開発者の信頼度は29%まで低下し、前年比11ポイント下落した。46%の開発者がAIツールの出力精度を積極的に不信任している（前年31%）。それでも同報告書では、84%の開発者が今年中にAIモデルをワークフローに使用するか、使用を計画しているという逆説的な現状が示されている。

なぜAIコードはこれほど問題を抱えるのか。Geroはその理由をシンプルに説明している。AIはインターネット上の公開データ全体で学習しており、質の高いコードも低いコードも等しく取り込んでいる。その結果、「自分が平均的なプログラマーであると自覚のない、大量生産型の平均的プログラマー」が生まれる。AIはハルシネーション（事実と異なる出力）を起こしやすく、誤りに気づかず自信満々にコードを量産する。

この問題は数字にも表れている。セキュリティテストプラットフォームのVeracodeが発表した調査では、100のLLMモデルで80のコーディングタスクをテストしたところ、AI生成コードの約45%が少なくとも1つの既知のセキュリティ脆弱性を含んでいた。コードが期待通りに動作していた場合でも、だ。

「ブラックボックス」としてのAIコード

開発者の生産性はAIによって10〜30%向上するとも言われるが、問題は量が質を圧倒していることだ。

AIが生成するコードの量があまりに多いため、人間のエンジニアが1行ずつレビューすることは現実的でなくなっている。業界全体で起きているのは、「コードを理解して検証する」から「入力と出力が一致するかテストするだけ」への移行だ。コードをブラックボックスとして扱い、なぜ動くかではなく、動くかどうかだけを確認する。

この変化は微妙だが深刻である。技術的負債の多くは、即座に失敗するコードではなく、設定ミスや隠れた脆弱性を持ちながら動き続けるコードから生まれる。「動いているように見える」だけで受け入れられたコードが、後のセキュリティリスクの温床になる。

さらに見落とされがちな問題がある。今日AIが大量生成しているコードは、将来のAIモデルの学習データになる可能性が高い。AIが自らの出力から学習し始めた場合、現在の弱点が次世代のモデルに引き継がれるリスクがある。

ジュニア採用削減が招く「囚人のジレンマ」

Microsoftの最高技術責任者（CTO）は「2030年までにコードの95%がAI生成になる」と予測している。こうした見通しを背景に、多くの企業はジュニアエンジニアの採用を絞り始めている。AIが安価かつ高速に処理できるなら、エントリーレベルの人材に投資する必要はないという判断だ。

しかしこの判断が積み重なると、業界全体で人材パイプラインが細る。ベテランエンジニアが引退した後、20年後にAIの出力を監督できる人間が誰もいなくなる可能性がある。Geroはこの状況を「囚人のジレンマ」と表現する。個々の企業の合理的な判断が、業界全体では取り返しのつかない損失を生む構図だ。

具体的にはこういうことだ。業界全体としてはAIシステムを理解・管理できる人材を育成し続けることが必要であるにもかかわらず、個々の企業には「育成コストは競合他社に任せ、育った人材を引き抜けばいい」というインセンティブが働く。誰もが同じ計算をした結果、育成の場そのものが消えていく。

結果として、AIの完全自動化に最も積極的な企業が、業界全体で必要な人的専門知識を最も他社に依存するという構造が生まれる。Geroは「ジュニア開発者の採用と育成は、ビジネスを続けるためのコストとして捉え直すべきだ。それは将来のロボット支配に対する保険だ」と述べている。

まとめ

AIコーディングが解決しているのは昨日の問題であり、生み出しているのは明日の問題だ。生成コードに含まれる脆弱性の割合、人間のレビュー能力の限界、人材パイプラインの縮小、そしてAIが自らの出力から再学習することによる問題の再生産——これら三重四重の構造が静かに積み重なっている。Geroの論点は技術的な警告にとどまらず、業界としての意思決定のあり方そのものへの問いかけでもある。

詳細はAI is Coding Us Into a Cornerを参照していただきたい。