Anthropic生物武器过滤器宕机近一年
结论前置 / TL;DR
Anthropic在一份安全报告中承认，其内部针对生物与化学武器风险的内容过滤系统曾停用近一年。在此期间，约5万名外部反馈承包商处理了约1.33亿次未经该过滤器筛查的模型交互请求。事件暴露了AI安全防护机制的长期失效。
安全防护长期失效
据Anthropic发布的一份安全报告披露，该公司用于识别和拦截生物及化学武器相关高风险内容的内部过滤系统，在长达近一年时间内处于非激活状态。
涉及规模庞大
在此期间，约5万名外部反馈承包商持续参与模型评估与优化工作，共执行了约1.33亿次与Claude模型的交互任务，所有交互均未经过该生物武器过滤器的筛查。
报告未说明具体时段与补救措施
报告未明确指出该过滤器失效的具体起止时间，也未详述发现漏洞后的修复过程、影响评估或后续加固方案。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →