10月12日、James Alan Millerが「CIOs face an AI expertise paradox as automation reshapes experience」と題した記事を公開した。この記事では、AIの自動化が業務効率を高める一方で、人材が経験を積む機会を奪い、AIの監督に不可欠な「熟練した判断力」の育成を困難にするというパラドックスについて詳しく論じられている。
AIが26,153件の脆弱性を検出——人間が「有効」と判断したのは202件
記事の冒頭で取り上げられるAIを活用した脆弱性調査の事例が、このパラドックスを端的に示している。あるプロジェクトでAIが生成した検出結果は26,153件に上ったが、最終的に修正済みとマークされたのは202件（0.8%）に過ぎなかった。さらに、AnthropicのAI「Claude（クロード）」はある検出グループの91.5%を「高・致命的」と分類したが、人間のメンテナーが同じカテゴリに分類したのは**51.3%**だった。
AIが脆弱性を「見つけられる」かどうかは問題ではない。明らかに見つけられる。問題は、どの検出結果が実際に重要かを判断する場面で、人間の経験と文脈理解が依然として不可欠だという点だ。
「知識」と「判断力」は別物
熟練したセキュリティアナリストや開発者は、AIより多くの事実を知っているわけではない。AIの情報量に人間が勝てるはずもない。しかし彼らが持つのは、長年の実務を通じて蓄積されたドメイン固有の判断力だ。
- 技術的には正しく見えるが「何かおかしい」と気づける感覚
- 過去の経験から例外を認識する能力
- 情報の欠落を察知し、下流への影響を予測する力
AIはハルシネーション（誤った情報の生成）を起こす。コンテキストを見落とす。例外を誤処理する。技術的には筋の通った結論に達しながら、その結果がもたらす影響を理解しないまま出力することがある。
だからこそAIにはガードレールが必要であり、その最重要なガードレールの一つが「経験を持つ人間」だ。英国のNCSC（国家サイバーセキュリティセンター）のCEO、Richard Horneはこの問題に既に向き合っており、完全自動化できる分析作業をあえて手動で継続させている。アナリストがAIを効果的に監督するための判断力を育てるためだ。
AIが「雑用」とともに「経験の機会」を奪う
問題の核心はここにある。
セキュリティアナリストは、誤検知や曖昧なシグナルを処理する中で学ぶ。開発者は、なぜ正しく見えたコードが動かなかったかをデバッグする中で学ぶ。財務アナリストは、数字を突き合わせ、「計算上は合っているのにビジネス的におかしい」答えを調査する中で学ぶ。知識が判断力に変わるのは、そうした地道な作業の積み重ねを通じてだ。
TechTargetが先行報道した「Prompt: AI is removing rungs from the corporate career ladder」（AIが企業のキャリアラダーから段を取り除いている、という趣旨の記事）でも同様の懸念が示されている。Teikametrics CFOのBrian Beaupreは、キャリア初期に財務モデルを手で構築する作業に何年も費やした——AIが今や数分でできる仕事だ。彼の懸念は「若手が手作業を続けるべき」という話ではない。その作業を通じて「答えが間違っているときに気づく感覚」が身についた、という点にある。
自動化の意思決定は、人材育成の意思決定でもある
記事はCIOへの提言として締めくくられている。自動化の判断を「AIが速いか・安いか」だけで評価するのは不十分だ。自動化を設計・導入する段階で、以下の問いを立てるべきだとされている：
- その作業を通じて、従業員は何を学んでいたか？
- AIが引き継ぐことで、どんな能力開発の機会が消えるか？
- AIが作業を担うようになったとき、その学びはどこで得られるか？
いくつかの組織は既に実験を始めている。NCSCはあえて手作業を残す手法を採用し、Teikametricsではシニア社員が意思決定の過程を言語化しながら若手と協働するペアリング型の育成を試みている。どちらが正解かはまだわからない。この問題はそれほど新しい。
答えは「自動化を止めること」ではない。自動化とともに何が失われているかを理解することだ。
詳細はCIOs face an AI expertise paradox as automation reshapes experienceを参照していただきたい。
