8月12日、Futurismが「Internal Google Document Reveals That Its HR AI Has Been Throwing Résumés From Qualified Applicants Straight Into the Trash」と題した記事を公開した。GoogleのHR AIが優秀な応募者の履歴書を誤って自動排除していたことを示す内部文書が明らかになったとするもので、Bloombergが入手した社内メモをもとに報じられている。
GoogleのAI採用システムが「優秀な人材を落とし続けていた」
Bloombergが入手した社内メモによると、Google DeepMindのHRチームは求職者に対して、通常の応募に加えて専用の別フォームへの記入を求めている。目的は、AIによる自動スクリーニングを経由せずに「実際の人間の採用担当者」に応募書類を確実に届けるためだという。
そのメモにはこう書かれている。
「私たちの応募システムでは、あなたのCVが誤って選考から外れたり、到達までに時間がかかりすぎたりする可能性が無視できないほどあります。このフォームへの記入により、チームの実際の人間があなたの応募を確認できるようになります。」
さらにそのメモには「このドキュメントを広く共有しないでください（PLEASE DO NOT SHARE THIS DOC WIDELY）」という注意書きが添えられていた。このメモを作成したのは、Google DeepMindのAGI安全性・アライメントチーム（AIの安全な整合を研究する部門）だと報じられている。
「AIは正常に動作している」というGoogleの公式見解
事態を受けてGoogle DeepMindのスポークスパーソンはBloombergに対し、AIによる採用ソフトウェアは正常に機能していると主張した。
「このチームは、採用担当者によるレビューを経ずに、チームメンバーへ直接履歴書を届けるための特別なフォームを用意しました。ただし、採用に近道はありません。」
この説明によれば、フォームの目的はAIへの不信任だけでなく、採用担当者を介さずチームメンバーに直接届けるという運用上の意図も含まれている。一方で、メモの文言が「CVが誤って選考から外れる可能性が無視できないほどある」と率直に認めている点は、公式声明とのあいだに少なくとも表現上の乖離があることも事実だ。どちらの解釈が実態に近いかは、現時点では第三者には判断しにくい。
AIによる採用選考の構造的問題
AI採用ツールの普及は近年急速に進んでいる。応募者が殺到する大企業を中心に、AIによる一次スクリーニングは標準的な仕組みになりつつある。一方でその弊害も以前から指摘されており、代表的な先行事例としてはAmazonが2018年にAIを使った採用ツールの運用を廃止した件がある。同社のツールは女性応募者を不当に低評価する傾向が発覚し、開発が中止された（Reuters報道）。
こうした背景を踏まえると、適格な候補者がAIのフィルタリングで誤排除される問題はAI採用ツール全体に共通するリスクとして長く認識されてきたと言える。EU AI法（EU AI Act）においても、採用・人事領域のAI活用は「高リスクシステム」に分類されており、透明性や人間によるレビューの確保が義務付けられている。
今回の件が注目を集めるのは、その当事者がGoogle DeepMindであることだ。世界トップクラスのAI研究組織が、自社の採用フローに対して「AIスクリーニングを経由しないルート」を内部向けに設けていたという構図は、AI採用ツールの信頼性をめぐる議論に新たな材料を加えるものとなっている。
なお、同様の問題意識はAI研究コミュニティでも共有されており、MIT Technology Reviewなどが採用AIの公平性・精度に関する課題を継続的に取り上げている。
エンジニアが今すぐ知っておくべきこと
GoogleのようなAI開発の最前線に立つ企業ですら、自社の採用AIについて「CVが正しくスクリーニングされない確率が無視できないほど高い」という趣旨の記述を社内文書に残していた。採用プロセスへのAI組み込みは効率化の手段として広がっているが、その精度・公平性・透明性についてはまだ解決されていない問題が多い。
求職者の立場としては、大企業への応募でも「AIによるスクリーニングで意図せず弾かれた可能性」を考慮しておくことが現実的な対応となりうる。また企業・採用担当者の立場では、AIスクリーニングの結果を鵜呑みにせず、人間によるレビューをどの段階でどの程度組み込むかを設計に盛り込む重要性が改めて浮き彫りになった事例と言えるだろう。
詳細はInternal Google Document Reveals That Its HR AI Has Been Throwing Résumés From Qualified Applicants Straight Into the Trashを参照していただきたい。
