Anthropic研究员称AI十年内灭绝人类概率超10%

研究员离职并发出警告

前OpenAI及Anthropic预训练研究员Jacob Coxon已离开两家公司。他公开指责OpenAI与Anthropic在推进AI能力的过程中，明知存在极端风险却仍选择加速开发，实质上是在主动承担可能导致人类灭绝的风险。

同事给出具体概率评估

Anthropic研究员Evan Hubinger在相关讨论中提出，若出现目标错位（misaligned）的超级智能AI系统，其在2034年前导致人类灭绝的可能性“高于10%”。该判断基于当前AI发展速度、对齐研究进展滞后以及部署环境不可控性等综合因素。

消息来源与背景

该观点出自科技媒体The Decoder对行业内部风险认知的报道，未引用具体论文或内部文件，属研究人员个人风险评估表述。