7月18日、PYMNTSが「California Tightens Scrutiny of AI Hiring Tools Amid Reports of Racial Bias」と題した記事を公開した。カリフォルニア州がAIを用いた採用ツールの人種差別的バイアスに対する規制を強化し、雇用主とAI開発者の双方に新たなコンプライアンス義務を課しつつある。背景にあるのは、黒人・アジア系応募者が約4万件の選考機会を失っていたというスタンフォード大学の実証研究だ。採用アルゴリズムを開発・提供するエンジニア側も規制対象に含まれる点は、TechFeed読者にとって見過ごせない。
スタンフォード研究が示した「4万件の機会損失」
規制強化の起点となったのが、スタンフォード大学の人間中心AI研究所（HAI）による新たな研究成果だ。150社に提出された400万件超の求職応募を分析した結果、大手第三者採用プラットフォームが生成する推薦スコアに人種間で有意な格差があり、黒人およびアジア系応募者が不均衡に不利な扱いを受けていることが判明した。
研究者らは、全人種グループが同等の推薦率を得ていた場合、黒人・アジア系の適格な応募者が約4万件多く選考に進んでいたと推計する。さらに見逃せないのが「systemic rejection（システム的な不採用）」という概念だ。複数の雇用主が同一の第三者採用プラットフォームを利用するため、同じアルゴリズムで繰り返し落とされる応募者が生まれる構造になっている、と研究者は指摘する。単一企業のバイアスではなく、プラットフォームを通じて業界横断的に格差が固定・増幅されうるという点が、この問題の深刻さをより際立たせている。
既存法の「当然の適用」を明確化したCRD規制
カリフォルニア州公民権局（CRD）は昨年10月施行の規制で、従業員5名以上の雇用主は、採用に自動意思決定システム（ADS）を使う場合も「カリフォルニア公正雇用・住宅法（FEHA）」の適用を受けると明確化した。新たな権利を創設したというよりも、既存の反差別法がAIツールにも当然に及ぶことを明文化した性格が強い。
法律事務所Hanson Bridgettの分析によれば、対象となるADSはコンピューターベースのテスト、スキル評価、パズルゲーム、AIによるビデオ面接解析まで幅広い。実務上の重要ポイントは以下の三点だ。
- 合理的配慮の義務：応募者の障害がADS上のパフォーマンスに影響する場合、FEHAに基づく合理的配慮を提供しなければならない。AIベンダー側に配慮申請の仕組みがなければ、雇用主自身でプロセスを用意する必要がある。
- 記録保持の義務：ADSに関連する雇用記録（システムへの入力・出力・技術設計に使ったデータを含む）を最低4年間保持しなければならない。
- 公正機会法（Fair Chance Act）の適用：内定前に犯罪歴を照会・考慮することを禁じる同法は、AIによるスクリーニングにも適用される。ADSの利用はこの責任を免除しない。
審議中の2つの新法案
現行規制に加え、さらに踏み込んだ法案が州議会で審議されている。
AB 1018（自動意思決定安全法案）は、雇用主とAI開発者の双方に定期的なバイアステスト、応募者へのAI使用通知、自動判断の根拠説明を義務づける。AIベンダーに直接法的義務を課す点が特徴で、AIサプライチェーン全体への責任拡大を意味する。
AB 1898は、ADSが採用・雇用判断に影響する場合に事前書面通知と受領確認署名を義務づけ、使用するAIツールの年次目録管理も求める。
さらにカリフォルニア消費者プライバシー法（CCPA）の規制により、2025年1月1日以降、重要な採用判断に自動意思決定技術を使う前に正式なリスク評価の実施が必要となった。2028年4月1日までに評価完了の経営幹部認証を含む要約レポートを州へ提出する義務も生じる。
エンジニア・開発者への示唆
今回の動きが採用側の人事・法務部門だけの問題ではない点は強調に値する。AB 1018はAIベンダー＝開発者側にも直接義務を課す法案であり、採用アルゴリズムを開発・提供する側も規制対象に入ってくる。
スタンフォード研究が強調する「独立した評価（independent evaluation）」の必要性は、アルゴリズムの設計・検証フェーズにおいて技術者がバイアス監査に主体的に関与すべきことを示唆している。バイアス監査の手法としては、統計的手法であるdisparate impact分析（各人種グループの選考通過率の比率を算出し、80%ルール等の基準と照合する手法）が代表的だ。OSSの領域では、IBMが公開しているAI Fairness 360（AIF360）や、MicrosoftのFairlearnといったツールキットが公正性指標の計算・可視化・緩和アルゴリズムの適用を支援しており、採用スコアリングモデルの監査にも応用できる。規制がAIベンダーに直接及ぶ以上、これらのツールを開発プロセスに組み込む実践的な意義は大きい。
※編集部の考察：disparate impact分析やAIF360といった具体的なツールは元記事では言及されていないが、規制対応を検討するエンジニア読者の参考として付記した。
詳細はCalifornia Tightens Scrutiny of AI Hiring Tools Amid Reports of Racial Biasを参照していただきたい。
