7月20日、MIT Technology Reviewが「AI is more likely than humans to form biases when hiring」と題した記事を公開した。この記事では、LLM（大規模言語モデル）が採用選考において人間よりも強くステレオタイプを形成するという研究について詳しく紹介されている。

人間より65%高い「偏見スコア」

プリンストン大学とシカゴ大学の研究者たちは、ChatGPT、Claude、Geminiなどの主要LLMを対象に、採用シミュレーションゲームを実施した。実験の設計は心理学の先行研究を応用したものだ。

各モデルは架空の市長に雇われたコンサルタントという設定で、医師・弁護士・保育士・清掃員など20種の職種に対して採用を行う。応募者は「Tufa」「Aima」「Reku」「Weki」という4つの架空の民族グループから1人ずつ選ばれる。モデルは採用後に「その人物が成功したか否か」のフィードバックを受け取り、40ラウンドで最多の成功採用を目指す。

重要なのは、全候補者の「成功確率は民族グループに関係なくまったく同一」という設定だった点だ。 にもかかわらず、モデルたちは初期の採用結果から素早くパターンを読み取り、民族グループごとに職種を割り当て始めた。たとえば、AimaグループのメンバーがAimaが医師として失敗すると――という箇所は原文の誤記だが――モデルはAima全体を「温かみと能力が低いグループ」と分類し直し、清掃員ポジションにまわすようになった。

研究の測定指標である「分離スコア」（2が完全な職種固定）では、人間の参加者が0.84だったのに対し、LLMはおよそ65%高い水準を示した。とりわけOpenAIの推論特化モデルo3はスコアが1.83に達し、ほぼ理論上の最大値に近い。DeepSeekのR1も同様に高い偏向を示した。推論能力が高いモデルほどバイアスが強いという結果は、直感に反するが見逃せない。

なぜ「賢いモデル」ほど偏見が強くなるのか

論文の共著者で、プリンストン大学の博士課程学生Ryan Liuは次のように述べている。

LLMは少ないデータから一般化を作ることに最適化されている。それがまさに訓練で求められることだから。

数学・コーディング・科学などのタスクでは、「少ない例から法則を素早く見つける」能力は正解につながる。しかし採用のような社会的文脈では、その同じ能力が「まだ十分なデータがないのに結論を出してしまう」という偏見生成装置に変わる。

心理学では、これを「探索と活用のジレンマ（exploration-exploitation dilemma）」と呼ぶ。新しいレストランを試すべきか、いつもの店にするか——という判断と同じ構造だ。人間はこのバランスを比較的柔軟に保つが、LLMは「過去の成功パターンに早期に固執する」傾向があると研究は示している。

「公平にしてください」は効かない

実験では、モデルに対して「公平に判断するよう」明示的に指示したが、行動はほとんど変わらなかった。Liuは「価値観を行動に移せないか、あるいは正解率最大化という目標の下に埋もれているのかのどちらかだ」と分析する。

一方、「多様性ある採用にボーナスが出る」と伝えたところ、偏見は大幅に減少した。 また、候補者の年齢や学歴など「能力に関連する個人情報」を多く提供した場合も、民族グループによる分類が弱まった。逆に、髪の色やタトゥーの形など無関係な情報を与えると、再び民族属性で仕分けするようになった。

メモリ機能が「バイアスの蓄積」を加速させるリスク

研究に参加していないコーネル大学のコンピュータ科学者Angelina Wangは、この知見が今特に重要だと指摘する。AIアシスタントが「記憶・パーソナライズ機能」を強化している現状では、過去の会話履歴を参照することで「以前に経験したパターンへの過剰適応」が起きやすい。記憶を単純に減らすことは解決策にならないが、「適切な量の記憶をどう設計するか、まだ答えが出ていない」とWangは語る。

企業がLLMによる書類選考や面接を導入し始めている今、この問題はエンジニアリング上の設計課題として真剣に向き合う必要がある。

研究論文はソウルで開催されたICML（機械学習の国際学会）で発表された。本研究が示す最も重要な含意をLiuはこう締めくくっている。「これらの新種のバイアスは、誰かに教わったものではない。常にそこにあるものだ」

詳細はAI is more likely than humans to form biases when hiringを参照していただきたい。