7月14日、TNW(The Next Web)が「The AI penalty: workers punished for using AI honestly」と題した記事を公開した。この記事では、AIを正直に活用したことを申告した従業員が昇進・昇給で不利を被る「AIペナルティ」と呼ばれる現象について詳しく紹介されている。
正直に言ったら昇進が止まった
医療製造プロセスの改善プロジェクトに1年以上費やしたAubreyは、成果発表の場でマネージャーから「AIが作ったように見せろ」と指示された。彼女が妥協案として自分の貢献を説明しようとすると、マネージャーが割り込み「AIで一瞬で作った」と上層部に告げた。数週間後の年次評価は低調で、上司自らがその発言が査定に響いたと認めた。
インドのFortune 500企業でITデベロッパーとして働くDeepakも同じ壁にぶつかった。透明性を重んじてコーディングエージェント(人間の指示に基づいてコードを自律的に生成・実行するAIシステム)の活用を積極的に開示したところ、マネージャーは成果を機械のものとみなすようになり、昇進が頭打ちになったと感じている。
この現象を体系的に分析したのが、ノースイースタン大学のChristoph Riedl教授だ。13の研究を対象にメタ分析を行ったところ、一貫したパターンが浮かび上がった。従業員がAIの助けを認めた途端、マネージャーは「機械がほとんどやった」と決めつけ、評価を下げる。Riedlはこれを「AIペナルティ」と名付けた。
回避策として有効なのは、コアタスクを自分でコントロールし、自分が何をしたかを具体的に説明することだとRiedlは言う。だが、企業側がAI使用監視を強化する中でそれは難しくなっている。
トークン数では何も測れない
企業がAI活用度を測る最も粗い指標がトークン数だ(※トークンとは、AIモデルがテキストを処理する際の基本単位。単語や文字のまとまりに相当し、入力・出力量の尺度として使われる)。どれだけ頻繁にチャットボットに入力したかがわかる一方、AIが実際に何を貢献したかは一切わからない。
社員はすぐに抜け穴を学んだ。「ヘビーユーザーに見せるため」に無意味な質問を打ち込む行為が横行し、Amazonは先月、トークン使用量で社員をランク付けする社内リーダーボードを廃止した。上級副社長のDave Treadwellは社内会議で「AIのために使うな」と明言している。
コーディングアシスタントのようなより細かいツールも問題を含む。AIエージェント(※与えられた目標に向けて自律的にタスクを計画・実行するAIシステム。コーディングエージェントはその一種でコードの生成・修正・テストを担う)を活用するツールの中には、AIが書いたコード行に共著者表示を付けるものもあるが、どの行が誰の貢献かや、人間がどれだけ形を整えたかは示さない。
「AIの使用が具体的な詳細なしに開示されると、マネージャーのデフォルトの仮定は『エージェンシー(主体性)を下げる形で使われた』というものになる」— Riedl
つまり、「どう使ったか」を伝えない限り、ボットが主役だと思われる。
帰属を明示しようとした試みとその副作用
問題を解決しようとする研究者もいる。カーネギーメロン大学のコンピューター科学者Graham Neubigは、AIが書いたコード行を注釈付きで示すオープンソースプラットフォームOpenHandsを共同創設した。IBMのチームはさらに踏み込み、論文の著者クレジットシステムをモデルにした「AI Attribution Toolkit」を開発。チャットボットが生成した量と人間が検証した内容をログに残し、帰属声明を生成できる。
しかし透明性には逆説もある。アリゾナ大学のOliver Schilke教授によると、AIの使用を正直に開示するだけで、同僚からの信頼が下がり、「怠慢」と評価される。Schilkeはこれをパラドックスと呼び、個々の社員がルールを推測するのではなく、AI帰属に関する共通規範が必要だと訴える。
AdidasのエンジニアリングエグゼクティブThomas Prommerは、強制的な帰属表示が逆効果になった事例を観察した。エンジニアたちは「AIとの共著と注釈されたくない」という理由でAIを使わなくなったという。うまくいったのは、ツールではなく成果にクレジットを与えるアプローチだった。
「評価されない責任」という構造問題
問題はキャリアの損失にとどまらない。元記事によれば、Amazonでは今年、AIエージェントが引き起こしたミスの責任を社員に帰属させて解雇した事例が伝えられている。Deepakは「AIへの称賛はAIに行くが、内容の確認は私たちの責任だ」と語る。
学習プラットフォームDoceboのCEO、Alessio Artuffoは、帰属の枠組み自体が間違っていると指摘する。本質的な問いは「どう作ったか」ではなく、「その成果を本人が説明・修正できるか」だ。AIを正直に使う人間が損をする構造が続けば、アウトプットは増えてもオーナーシップは失われる。Artuffoはそれを「効率化に偽装された能力の退行(capability regression)」と表現している。
詳細はThe AI penalty: workers punished for using AI honestlyを参照していただきたい。