OpenAI解散AI灾难风险预警团队
结论前置 / TL;DR
OpenAI已正式解散专责评估自身AI模型潜在灾难性风险的“预备性”(Preparedness)团队,相关职能被拆分并移交至其他现有部门。多名安全方向员工已离职。内部知情人士透露,员工中正蔓延一种‘隐隐的责任感与忧虑’,认为公司在AI安全投入上严重不足。
团队解散与职能转移
OpenAI已关闭其‘预备性’(Preparedness)团队——该团队核心职责是系统性评估公司自研AI模型可能引发的灾难性风险。目前,原属该团队的工作任务已被拆解,分别划归至其他既有业务或安全小组,未设立新的专职实体承接全部职能。
人员变动与内部情绪
此次调整伴随多名专注AI安全的员工离职。据内部信源向The Decoder透露,公司内部正滋生一种‘隐隐的责任感与忧虑’(burbling sense of responsibility and dread),普遍担忧OpenAI在应对极端AI风险方面的努力远未达应有水平。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →