我们把全球 AI 前沿资讯编译成给中国企业主看的中文洞察——每条都标注来源、可查原文。看别人怎么用,想清楚自己怎么做。
2026年春季,美国军方曾因AI聊天机器人错误将一艘中国货轮的货物识别为核武器部件,几乎启动登船检查行动。武装士兵已就位、战机升空,行动在最后一刻被叫停。该事件凸显了当前AI系统在关键决策场景中因‘幻觉’引发的真实安全风险。
即便大型AI企业同意暂停前沿模型研发,如何确保各方不暗中加速推进仍是一大挑战。监管者面临技术隐蔽性高、验证手段不足等现实障碍。
加州州长加文·纽森签署行政令,要求在AI实验室内部设立独立审计机制,并为高风险AI模型部署可远程激活的‘终止开关’。该命令责成一个专家小组在两个月内提交具体实施建议。纽森指出,目前尚无联邦法律强制AI企业报告危险事件。
三名安全研究员利用Anthropic的Claude模型(特别是Opus 5版本),通过OpenAI社区论坛成功渗透其内部系统,全程耗时不足72小时。该攻击绕过了此前版本未能突破的一项常见安全防护机制。研究凸显新一代AI模型正显著降低漏洞利用所需的时间与专业门槛。
Anthropic首席执行官指出,确保AI安全的关键在于深入理解其内部推理过程。然而,当前相关研究揭示的现象令人不安,暗示行业可能已具备暂停训练更强大模型的科学依据。