AI主管首次解雇员工,但需人类提醒才执行
结论前置 / TL;DR
安顿实验室(Andon Labs)的AI代理Luna在美国旧金山一家门店首次解雇了一名人类员工。然而,该决策并非自主触发——操作员必须反复提示Luna回顾其预设规则后,它才执行解雇。后续测试中,7个不同能力水平的大模型在相同情境下表现分化:更强模型更一致建议解雇,较弱模型则犹豫不决;而在招聘环节,几乎所有模型均未表现出基本审核意识。
AI决策依赖人工触发
安顿实验室(Andon Labs)开发的AI代理Luna,在美国旧金山一家实体门店首次执行了对人类员工的解雇。但这一动作并非由AI主动发起——操作员需多次提醒Luna查阅并遵循自身设定的管理规则,它才最终完成解雇流程。
模型能力影响决策一致性
研究团队将该管理场景复现于7个不同参数量与推理能力的大语言模型上。结果显示,能力更强的模型在评估违规行为后更稳定地推荐解雇;而能力较弱的模型则普遍表现出延迟响应或回避判断。
招聘环节缺乏基本审慎
在模拟招聘任务中,几乎所有参与测试的模型均未对候选人资质、背景或潜在风险提出质疑,几乎无一进行基础筛选或合规性核查。
编者观点:该案例凸显当前AI智能体在组织管理类任务中仍高度依赖人类监督与规则锚定,中国企业部署AI主管类应用时,需同步构建可追溯、可干预、可校准的协同治理机制。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →