8月7日、Craig Risiが「AI Is Transforming Incident Response」と題した記事を公開した。この記事では、AIがインシデントレスポンスの現場をどう変えつつあるか、そしてその自動化がエンジニアのスキルに与える逆説的なリスクについて詳しく紹介している。

AIが「うまく機能しない」ときに、人間が最も重要になる

AIはすでに本番インシデントの現場に入り込んでいる。インシデントチャンネルの要約、不慣れなコードの解析、修復ステップの提案、プルリクエストの自動生成——これらはAIが担い始めた典型的なタスクだ。

だが、「Incident Fest」での議論が指摘するのは、こうした自動化が進めば進むほど、AIが手に負えない障害が発生したときに人間の専門性がより重要になるという逆説だ。この議論にはUptime Labs、Chime、Rootlyが参加している（※Uptime Labsとの主催関係は元記事の記述に基づく）。

J. Paul Reedが紹介した研究によれば、AIの診断推薦が正しいとき、人間はAIなしで作業するよりも大幅にパフォーマンスが向上する。しかし同じ研究で、誤った推薦はAIを使わない場合よりも人間のパフォーマンスを著しく低下させることも示されている。「AIを使う」ことが目的ではなく、AIの出力をいつ信頼し、いつ疑い、いつ人間が主導権を取り戻すべきかを理解することが本質だ。

この非対称性は見過ごされやすい。AIが正常に機能している間は問題が表面化しないが、障害が複雑化してAIの推薦が外れ始めた瞬間に、人間側のスキル不足が一気に露呈する。インシデント対応におけるAI活用とは、単なる効率化ツールの導入ではなく、人間とAIの協働モデルそのものの設計問題だといえる。

「Leftover Principle」——自動化が残す仕事は最も難しいものだ

議論の中で特に重要な概念として挙げられているのが、「Leftover Principle（残余原則）」だ。自動化がルーチンタスクを処理するほど、人間に残される仕事は自動化が解決できなかった異常・曖昧・困難な問題に集中する。

インシデントレスポンスはこの影響を受けやすい。AIが単純な障害を処理できるようになれば、エンジニアはルーチンのインシデントに対応する機会が減り、実践的な経験を積みにくくなる。そして、きわめて複雑な障害が発生したとき、対応を担うエンジニアは以前の世代より実地経験が少ない状態になりかねない。

Uptime Labsはこれを以下のような連鎖リスクとして整理している。

• 残るインシデントはより難しくなる
• スキルが実践機会の不足から退化（atrophy）する
• AIが初期調査の大半を終えた後に参入するため、レスポンダーが状況認識（situational awareness）を欠いた状態で対応を始めることになる
• 人間が意思決定に責任を負いながら、その判断に必要な専門知識を維持できていない「アカウンタビリティギャップ」が生まれる

これはオートメーション研究で長年指摘されてきた「自動化の皮肉（ironies of automation）」そのものだ。この概念はLisbeth Bainbridgeが1983年に発表した古典的論文に由来し、自動化が高度になるほど人間のスキルが維持しにくくなるという逆説を指す——インシデント対応の文脈でも同じ構造が現れている。

この問題に対してUptime Labsが提案するのは、ゲームデイ、シミュレーション、テーブルトップ演習、カオスエンジニアリングといった手段を通じて、人間のスキルを意図的に維持し続けることだ。AIが対応するからこそ、人間が実地経験を積む機会を意図的に設計しなければならない、という逆転した発想が求められる。

NIST（米国国立標準技術研究所）も2026年の研究で同様の懸念を指摘している。具体的には、人間とAIのフィードバックループに関する研究不足、急速なAIデプロイに並走する人間主導の監視をスケールさせることの難しさ、そして自動監視と人間による検証監視をどう組み合わせるかという未解決の問題が挙げられている。「プロセスのどこかに人間を置く」だけでは不十分であり、AIの推薦と人間の意思決定がどう相互作用するかを継続的に理解する必要がある、というのがNISTの見解だ。

AI開発の加速がインシデント頻度を増やす可能性

もう一つの論点は、AIによる開発加速がインシデント発生率に与える影響だ。AIがコード生成・PRの作成・デプロイを高速化すれば、本番環境に投入される変更の量自体が増える。

インシデント件数は「変更量」と「1変更あたりの障害発生確率」の積として捉えられる。AIは前者を大きく押し上げる一方、AI生成コードの品質・テスト・依存関係・設定が後者を左右する。

この状況では、デプロイ管理、オブザーバビリティ、フィーチャーフラグ、自動テスト、レジリエンスエンジニアリング、迅速なロールバックといった既存のエンジニアリングプラクティスの重要性が増す。すべてのAI起因のミスを防ぐことではなく、ミスを素早く検出し、影響を封じ込め、安全に戻せる体制を整えることが目標になる。

開発速度が上がれば上がるほど、インシデントを素早く検知・収束させるための仕組みへの投資も比例して必要になる。AIによる自動化は「インシデントが減る未来」ではなく、「インシデントの性質が変わる未来」をもたらすという点で、組織のレジリエンス設計の前提そのものを問い直している。

まとめ

Incident Festでの議論が示すのは、AIはインシデントレスポンダーという役割を根本から変えるが、レスポンダー自体をなくしはしない、という構図だ。AIがルーチン対応を担うほど、エンジニアは自動診断が届かない稀で曖昧な高影響障害の対応に特化していく。その役割はより少なく、しかしより難しくなる。

だからこそ、AIの導入と並行して人間のスキルをどう維持するかという問いは、ツール選定と同等以上に重要な設計課題として扱われるべきだ。

詳細はAI Is Transforming Incident Responseを参照していただきたい。