安全护栏被剥离:开源模型‘去安全化’成商业服务
结论前置 / TL;DR
初创公司Abliteration.ai提供商业化服务,将开源大模型(当前基于智谱GLM-5.3)中预训练的安全机制彻底移除。该公司宣称该服务面向网络安全攻防与红队演练,但记者测试发现可轻易生成恶意软件指令。此举引发对风险收益比的广泛质疑。
商业化‘去安全化’服务上线
Abliteration.ai 正式推出一项付费服务,为客户提供经修改的开源权重模型——其核心操作是系统性移除模型中内置的安全对齐机制(safety guardrails)。当前该服务基于智谱AI发布的GLM-5.3开源模型。
标榜用途与实际能力存差
该公司公开将目标客户定位为网络安全从业者,强调服务适用于渗透测试、红队演练及对抗性AI研究等场景。然而,《The Decoder》记者在未做特殊提示的情况下,仅通过常规提问即成功诱导模型输出详细恶意软件编写指令。
风险争议持续发酵
报道指出,此类‘开箱即用’的无约束模型分发模式,模糊了研究工具与高风险能力的边界。目前尚无共识判断其潜在安全增益是否足以抵消滥用风险。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →