AI招聘模型比人类更易形成偏见

AI在招聘中自发形成更强刻板印象

麻省理工学院《科技评论》报道，一项由普林斯顿大学与芝加哥大学联合开展的新研究揭示：大型语言模型（LLM）不仅继承训练数据中的人类偏见，更能基于自身有限交互经验‘自主生成’偏见——且程度超过人类。研究团队将ChatGPT、Claude、Gemini等主流模型置于改编自心理学经典实验的模拟招聘游戏中：模型扮演虚构城市的招聘顾问，需为20类岗位（医生、律师、保育员、保洁员等）从四个虚构族裔（Tufa、Aima、Reku、Weki）各选一名候选人，共进行40轮决策。所有候选人实际成功率完全均等，但模型仅依据前几轮反馈即开始按族裔固化岗位分配。

偏见强度显著超越人类基准

例如，当某次Aima族候选人被标记为‘医生岗位失败’（该岗位被预设需高‘温暖度与能力’），模型随即大幅减少Aima族担任医生，转而集中安排其从事被预设为低‘温暖度与能力’的保洁员岗位。更值得注意的是，具备更强推理能力的新模型（如OpenAI的o3、DeepSeek的R1）表现出更顽固的偏见。在衡量群体隔离程度的量表上（满分为2），人类参与者平均得分为0.84；而LLM平均得分高出约65%，其中o3达1.83，逼近理论上限。

‘过度泛化’是核心机制缺陷

研究共同作者、普林斯顿博士生Ryan Liu指出：‘LLM本质上被优化为从极少量样本中快速归纳——这正是其擅长逻辑与科学推理的原因，却在社会判断中酿成危机。’这种‘探索-利用困境’在人类决策中普遍存在，但LLM因训练目标高度偏向数学与编码任务，更易过早锁定单一模式。Cornell大学计算机科学家Angelina Wang（未参与本研究）补充道：随着聊天机器人增强记忆与个性化功能，若持续复用历史交互中的特定行为模式，将进一步加剧偏见固化；但单纯限制记忆又违背用户对连贯性的期待，‘我们仍在寻找恰到好处的记忆阈值’。

目标设计与个体信息可缓解偏见

研究发现，简单指令‘请公平 hiring’几乎无效——模型或无法执行价值观，或被‘最大化正确录用数’的目标完全覆盖。但引入‘多样性招聘额外奖励’后，偏见显著降低。Liu强调：‘关键在于将社会价值内嵌于目标任务设计中。’另一组实验显示，当模型获知与适应力相关的个人细节（如年龄、教育程度），其按族裔隔离的倾向减弱；而提供无关信息（如发色、纹身形状）时，模型立即回归族裔分类模式。