8月30日、Atomic Objectが「AI-Generated Code: The Perfectly Implemented Misunderstanding」と題した記事を公開した。AIが生成するコードが技術的に正しくともビジネス要件を誤解したまま実装される「完璧な誤解」の問題について、現役の開発者・コンサルタントの視点から詳しく論じている。
「コンパイルが通って、テストも通って、それでも間違っている」
AIコード生成の議論では「バグが出る」「ハルシネーションが怖い」といった話が多い。しかしこの記事が指摘するのは、もっと厄介な問題だ。
「コンパイルが通り、すべてのテストをパスし、表面的なレビューを生き延びて、それでも間違っているコードを生成することがある。完璧に実装された誤解だ。」
著者がAIエージェントに依頼して生成されたコードは、技術的には健全だった。しかし「ある値がある文脈では別の意味を持つ」「特定のイベント列が、どのフィールドにも保存されていない結果を意味する」——そういった知識が欠けていた。明らかに壊れてはいない。知らなければわからない。
著者はAIツールに対して、スキーマ定義・匿名化済みサンプルデータ・関連コード・プロジェクトドキュメント・追加ガイドを含むMarkdownファイルと、相当量のコンテキストを渡していた。それでも起きた。
問題の根源は制度的知識（institutional knowledge）——組織や業務に固有の暗黙知・慣習・過去の意思決定の経緯——にある。そうしたエッジケースは過去の会話・意思決定・経験の中に蓄積されており、モデルのコンテキストウィンドウに収まることはほとんどない。
AIが役立つ領域と、そうでない領域
著者はAIを毎日使う現役の開発者であり、AIへの否定論者ではない。整理すると次のようになる。
AIが明確に役立つ場面：
- 新しいクラスのスキャフォールディング
- テストの雛形生成
- ボイラープレートの記述
- プロトタイプの試作
- 構文・APIの質問における検索の代替
- 見慣れないコードの説明
これらは「難しいからではなく、面倒だから時間を食っていた」作業であり、AIによる圧縮効果は大きい。
AIが機能しない場面：
- ビジネスロジックの正確な実装
- クライアントの意図の解釈
- ステークホルダー間の矛盾した要件の検出
- 既存システムの制約との照合
会議録・文字起こしツールも「誤解」を増幅する
コードだけの問題ではない。Granola（AI会議ノートツール）・Fathom（会議録音・サマリーツール）・Otter（音声文字起こしツール）などの会議録ツールを使ったワークフローにも、同じ構造的リスクがある。
典型的なワークフローはこうだ：
- 会議ツールがクライアントとの会話をキャプチャし、文字起こしを生成する
- ツールが意思決定・要件・アクションアイテムを含むサマリーを生成する
- 開発者がそれを確認し、Wispr Flow（音声入力でメモを書き起こすディクテーションツール）などを使って自分の解釈を追記する
- 文字起こしとメモをチームが後から検索できるナレッジベースに格納する
問題は、このパイプラインの各ステップで誤解が紛れ込む余地があることだ。文字起こしがドメイン固有の用語を誤認識する。サマリーが未決の質問を決定事項に変換する。開発者のメモがクライアントの発言ではなく自分の解釈を反映する。 後でそのナレッジベースを参照した人間は、どの文がクライアントの発言で、どれがAIの要約で、どれが誰かの解釈なのかを区別できない。
著者の処方箋は明快だ：常にソース（録音・文字起こし）に戻れる経路を残すこと。「クライアントがXを確認した」というサマリーがあれば、録音を開いてその箇所に飛んで自分で確認できる状態を保つ。
開発者の役割が変わる、なくなるのではなく
記事の著者はコンサルタント会社（Atomic Object）に在籍しており、クライアントワークの文脈でこう述べる。
「クライアントは私たちをタイピングが速いから雇うのではない。複雑な問題を抱えているから、話を聞き、正しい質問をし、混乱した実世界の要件を動くソフトウェアに翻訳できる人間が必要だから雇う。」
AIはディスカバリーミーティングで2人のステークホルダーが同じ機能を異なる言葉で説明していることに気づかない。要件が既存のシステム制約と矛盾しているときに押し返さない。数ヶ月・数年にわたるクライアント関係を支える信頼を構築しない。
AIの導入によって著者の仕事時間の配分が変わったのは、機械的なコーディングが減り、システム全体の把握とAI生成コードへの批判的レビューに時間が移ったという点だ。
特に後者は重要で、「自分で書いていないコードは、実装がどのように結果に至ったかの暗黙的な理解がない。だからAI生成コードは自分で書いたコードより厳密なレビューが必要」と指摘している。
まとめ
実装の速度が上がるほど、「完璧に実装された誤解」を見抜いて防ぐ能力が開発者の価値の核心になる。ツールを使いこなしてプロンプトだけで仕事を終わらせようとする開発者ではなく、そのぶん浮いた時間を影響の大きい判断に使える開発者が生き残る——というのが著者の結論だ。
詳細はAI-Generated Code: The Perfectly Implemented Misunderstandingを参照していただきたい。
