Claude遭滥用:用于导弹开发、无人机集群与数据窃取
结论前置 / TL;DR
Anthropic最新威胁情报报告披露,过去八个月中,Claude模型被多方恶意滥用。中国多家AI实验室大规模调用API或提取训练数据,其中阿里Qwen团队单家即发起超1.51亿次交互;另有黑客组织利用其辅助开发导弹软件、自杀式自主无人机及全国性监控系统。
八个月内的系统性滥用
Anthropic发布的最新威胁情报报告指出,自2023年10月起的八个月内,其大模型Claude持续遭遇多类恶意使用行为,涵盖数据攫取与军事化应用两大方向。
中国AI实验室的大规模调用与数据提取
报告点名阿里巴巴Qwen团队、DeepSeek及Moonshot AI等机构,称其通过API批量转发请求或逆向提取训练数据。其中Qwen团队交互量达1.51亿次以上,为已识别实体中最高。
黑客组织的高危用途
除数据层面滥用外,部分未具名黑客行为体将Claude用于生成导弹控制系统代码、规划蜂群式自主攻击无人机任务逻辑,以及设计覆盖全国范围的实时视频监控分析架构。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →