9月28日、Inside AIが「Why Employees Override AI Systems That Work: The Authority Gap」と題した記事を公開した。この記事では、機能しているAIシステムを従業員が無効化する本当の理由が「技術的な抵抗」でなく「権限の不在」という組織構造の問題であることについて詳しく紹介されている。
「AIが判断して、何かまずいことが起きたら、私の名前が報告書に残る」
ある世界規模の物流会社のディスパッチャーは、こう語った。
「もしシステムが判断を下して何かまずいことが起きたら、報告書に載るのは私の名前だ。自分が判断すれば、少なくとも説明できる」
この言葉は、現場で起きていることの核心を突いている。彼は技術を理解していた。システムが自分より優秀なことも認めていた。それでも従わなかった。理由は、アカウンタビリティ（説明責任）の構造が変わっていなかったからだ。
この構図は、ある大手グローバル銀行の事例にも繰り返される。2022年末、ルーティンな与信判断を自動化するAIを導入した。パイロットは成功し、処理速度・精度・コスト削減すべてで優位性を示した。リスク部門も法務も承認し、CEOが公式に推進した。しかし6ヶ月後、ほとんどの審査は依然として人間の手を経ていた。「例外」が増殖し、「暫定的な安全策」が恒久的な工程として定着した。システムはスコアリングと推薦をするが、最終判断を下すことはほぼなかった。
技術の問題ではなく、ガバナンスの問題
記事が指摘する本質的な構造はシンプルだ。AIに「インテリジェンス」は与えたが、「権限（Authority）」を与えていない。
ここで「権限」とは、合意された境界内で意思決定を行い、組織がその決定を正当なものとして受け入れる仕組みのことを指す。権限なきAIは、意思決定エンジンではなく「ドキュメント生成ツール」に成り下がる。
これは新しい現象ではない。1990年代のERP（基幹業務システム）導入でも同じことが起きていた。ネスレUSAのERP導入事例では、各部門が自律的に動いていた既存の権限構造を変えないまま「テクノロジーのインストール」として扱ったため、現場は引き続き独自判断を続けた。バブソン大学のトム・ダベンポートは当時、これを「経営再設計ではなくシステム導入として扱ったことが失敗の原因」と指摘している。
権限移譲に成功した事例——そして「今なぜ重要か」
記事では成功パターンも複数紹介されている。いずれも10年以上前の事例だが、記事はこれらを「AIが現場に入り始めた現在」において改めて参照すべき先行知見として位置づけている。当時はERPや物流最適化が舞台だったが、その教訓は今日の生成AI・意思決定AIの導入にそのまま当てはまる。
航空会社の収益管理システムは、権限移譲に成功した代表例だ。アルゴリズムが完璧になったから権限が移ったのではない。「人間が介入すべき条件」を明確に定め、エスカレーションの構造を整備し、「システムに従うことが職業的に正当な行為」になるよう評価制度を変えた。ガバナンスを変えたことで権限が移動した。
UPSのORIONルーティングシステムは、さらに具体的だ。2013年のロールアウト当初、ドライバーの多くがシステムの提案ルートを「参考程度」に扱っていた。UPSはスコアカードを変更し、ドライバーの評価基準を「ORIONの推奨ルートをどれだけ遵守したか」に切り替えた。これにより、システムに従うことが職業的に守りやすい行動になった。 技術ではなく、評価制度の変更が行動を変えた。この構造は、現在のAI導入にそのまま適用できる。
Amazonの「Hands off the Wheel」イニシアティブ（2012年開始、社内ではProject Yodaと呼ばれた）では、入力権限と出力権限を分離した。ビジネスチームはデータとパラメータを管理するが、ルーティンなオーバーライドは抑制され、場合によっては承認が必要となった。何か問題が起きたとき問われるのは「誰が間違った判断をしたか」ではなく「どの入力・ルール・設計が失敗したか、その責任者は誰か」という問いに変わった。責任の粒度を「人の判断」から「設計とパラメータ」へ移し替えたことが、現場の行動を変える鍵となった。
エージェント型AIで問題はさらに深刻化する
推薦系のAIには「人間が最終判断する」という建前があった。しかしエージェント型AI——予約、承認、発注、エスカレーションを自律的に実行するシステム——では、その建前が崩れる。
2025年から2026年にかけて、OpenAIのOperatorやGoogleのProject Marinerをはじめとするエージェント型AIが急速に実用段階へ進んでいる。複数のタスクを連鎖的に自律実行する設計は、従来の「推薦→人間が承認」という構造を根底から変える。パラメータの範囲内でエージェントが動いて悪い結果が出たとき、誰が責任を負うのか。パラメータの設定が誤りだったのか、権限の付与が広すぎたのか、想定外の状況だったのか——こうした問いが、取締役会・法廷・規制当局の報告書で争点になる、と記事は警告する。
推薦AIの時代に積み残してきた「権限とアカウンタビリティの再設計」という課題が、エージェント型AIの普及によって先送りできない問題として浮上しつつある。
CTO・経営層が問うべき4つの問い
記事はAIシステムをスケールする前に、ガバナンス上の4つの問いに明示的に答えることを求める。
- このAIが機能した場合、誰が裁量を失うか？
- 誰がどの意思決定において権限を得るか？
- システムに従った結果について、誰が説明するか？
- 学習曲線の間の移行リスクは誰が引き受けるか？
これらに事前に答えなければ、現場の個人が既存の権限を守る形で、暗黙のうちに答えを出す。
本当の「導入成功」の定義
記事が提示するラストの問いは、エンジニアリング組織にとって重い。
「もし明日このシステムを止めたとして、重要な意思決定の内容は変わるか？ それとも、インターフェースが消えるだけで、人々はいつも通りに判断し続けるか？」
変わらないなら、権限は移っていない。権限が移っていないなら、いくら使用率が高くても、どれだけモデルが高精度でも、導入は起きていない。
この問いは、AIへの投資対効果を測る既存の指標——使用率、処理速度、コスト削減率——では捉えられない次元にある。本当の意味での導入成功とは、AIが組織の意思決定構造に組み込まれ、それなしでは同じ判断ができない状態になることだ、と記事は定義する。そのためには、使用率ダッシュボードを見るのではなく、例外件数の増減・オーバーライドの閾値変化・エスカレーションのステップ数を監視しなければならない。
技術の精度を上げることと、組織の権限構造を変えることは、別のプロジェクトだ。多くの企業が前者だけに投資し、後者を放置している——そこに「機能するAIを現場が無効化し続ける」構造の根がある、と記事は結論づける。
詳細はWhy Employees Override AI Systems That Work: The Authority Gapを参照していただきたい。
