10月3日、Futurismが「AI Now Writing Code That Humans Can't Even Understand」と題した記事を公開した。AIが生成するコードをエンジニア自身が理解できなくなりつつある実態と、その業界への影響について詳しく報じている。

あるOpenAIエンジニアのエピソードが示す変化

独立系調査会社SemiAnalysisのアナリストであるJordan Nanosが、あるエピソードを明かした。OpenAIのエンジニアが、自社のGPUカーネル（AIモデルの学習・推論を支えるハードウェア制御プログラムの核心部分）のコードを画面でスクロールしながら、その中身を把握できていなかったというものだ。

NanosはポッドキャストFireside AlphaでMansour Karam氏との対談でこう述べている。

「彼らはハードウェアについて深く知っているし、システムのコンセプトも理解している。でも、自分たちが見せているDeepSeek向けのMLAカーネルが実際に何をしているのか、まるでわかっていなかった。行ごとに見ていくと、『違う、違う、違う』という感じだ。AIがそれを理解し、AIがテストし、結果を出す。正しいカーネルが生成され、パフォーマンスも高い。」

Nanosはその上で、「実際のコードを人間が深く推論する必要は必ずしもない」と主張した。AIがハードウェア上のデータ移動と処理要素の操作方法を把握しているからだ、という論理である。

このエピソードはOpenAI組織全体の能力を示すものではなく、AIコード生成の進化が個々のエンジニアの実務にどう影響しているかを象徴する一例として引用されている点に留意したい。「パラダイムシフトの自然な帰結」として擁護する声もあり、AI研究者のSergey Cleftsowは同記事内で引用されたMedium投稿でこう書いている。「開発者はアーキテクチャと正しさの基準を定義するだけでよく、あとはニューラルネットワークが処理する」という見方だ。

理解されないまま本番に出るコードが35%

楽観論とは裏腹に、データは別の絵を描いている。

ソフトウェア会社Undoの調査によれば、AIが生成したコードの35%は、エンジニアチームが本番環境にデプロイする前に十分理解されていない。また、回答したソフトウェアエンジニアの29%が「AIコードの解読に費やす時間による生産性低下」を月に複数回目撃したと答えており、94%が過去6ヶ月で少なくとも1回は同様の事態を経験したと回答している。

具体的な事故も起きている。Amazonは2025年初頭、断続的なシステム障害によって顧客注文が混乱した後、90日間の「コード安全リセット」を実施した。同社はAIが原因だとする主張に反論したものの、内部会議のメモには、マネージャーが「生成AIによる変更の影響範囲の広さ」を懸念していたことが記録されていた。

スキル劣化という長期リスク

問題は目先のバグだけではない。チップ最適化ソフト会社InfinityのファウンダーであるJeremy Nixonは、一部のエンジニアがAIの出力コードをもはや解読できない段階に達していると指摘する。

懸念はより広い認知機能の問題とも接続している。研究者の間では、AIへの過度な依存が問題解決能力や批判的思考といった認知スキルの退化を引き起こすという議論が活発化しており、コンピュータサイエンティストも例外ではないとする研究結果が出ている。たとえばMITの研究では、AIライティングツールへの依存が批判的思考の機会を減らすことが示唆されており、コーディング分野でも同様の懸念が浮上している。新世代のエンジニアがコードそのものを理解する価値を軽視する環境で育つことへの警戒感は、IEEE Spectrumをはじめとする技術系メディアでも論じられ始めている。

エンジニアがコードを「書く」から「監視する」へと役割を移行させる中で、アーキテクチャ設計や大規模プロジェクトに必要なスキルが蓄積されないまま現場に出ることのリスクは、まだ答えが出ていない問題として残っている。

詳細はAI Now Writing Code That Humans Can't Even Understandを参照していただきたい。