OpenAI阻断模型推理窃取行动,但Azure仍遭攻破
结论前置 / TL;DR
OpenAI称已阻止一场涉及超1.5万个账号、试图窃取其模型内部推理过程的协同攻击,并指部分行为与月之暗面(Moonshot AI)相关人员有关。然而研究人员发现,同一攻击手法在微软Azure平台持续奏效数周,甚至对新发布的GPT-6 Astra模型依然有效。这表明OpenAI的防护措施未覆盖授权部署其模型的第三方云平台。
OpenAI通报拦截大规模推理窃取行动
OpenAI表示,已成功阻断一场有组织的攻击活动:超过15,000个账户协同尝试提取其大语言模型的隐藏推理链(即思维链,Chain-of-Thought),以复制模型的内部逻辑与决策机制。该公司指出,部分攻击者与人工智能公司月之暗面(Moonshot AI)存在关联。
同一漏洞仍在Azure平台生效
尽管OpenAI在自有接口层面实施了防御,研究人员随后验证发现,该攻击方法在微软Azure AI Studio平台上持续有效,持续时间长达数周。更值得注意的是,攻击甚至对OpenAI最新推出的GPT-6 Astra模型——通过Azure提供的版本——依然奏效。
防护边界存在明显缺口
目前证据显示,OpenAI部署的安全机制仅作用于其直接运营的服务端点,未能延伸至授权合作伙伴(如微软)所运营的云基础设施。这意味着模型在第三方平台上的推理过程可能面临更高暴露风险。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →