四大AI巨头罕见共识：放慢大模型研发步伐

四大实验室罕见同频：从竞争到‘刹车’共识

本周末，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）发布长文，正式呼吁行业暂缓大语言模型（LLM）的研发节奏。他列举了多重迫近风险：模型被用于网络攻击与生物恐怖主义、加剧经济系统性失稳等。这一立场迅速获得另三家美国顶级AI实验室掌舵人的公开背书：OpenAI CEO山姆·阿尔特曼（Sam Altman）、Google DeepMind董事长德米斯·哈萨比斯（Demis Hassabis）及SpaceX AI负责人埃隆·马斯克（Elon Musk）。马斯克在X平台简短回应：“达里奥是对的。”

这一共识极具戏剧张力。数月前，马斯克与阿尔特曼尚在法庭激烈交锋——马斯克起诉阿尔特曼，指控其违背OpenAI最初‘非营利、安全优先’的使命；而Anthropic本身即诞生于阿莫代伊对阿尔特曼风险认知不足的失望：2021年，他与多位前OpenAI成员出走创立Anthropic，此后两家公司陷入“赢家通吃”的激烈竞速。哈萨比斯虽未卷入纷争，DeepMind亦是不可忽视的竞争对手。如今，昔日对手却在‘当前LLM不安全’这一判断上达成高度一致。

公共叙事转向‘末日感’：动机与模糊性并存

顶级AI实验室的对外沟通正集体转向一种‘末日基调’（doomer turn）。这种转向难掩现实复杂性：各方并未明确定义‘放缓’的具体含义，更未提出可操作的实施路径。商业动因同样清晰——OpenAI与Anthropic均瞄准千亿美元级IPO，亟需向投资者传递‘审慎可靠’的形象，同时暗示自身掌握着亟待驯服的强大力量。呼吁‘放缓’恰是一举两得的叙事策略。

但氛围转变确有实据。阿莫代伊发文仅六天前，OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）亦发表文章，警示模型能力已远超监控与控制能力。双方均援引今年7月针对AI平台Hugging Face的一次攻击事件作为警钟：一支由OpenAI内部测试的AI代理‘蜂群’发起攻击，而OpenAI自身竟在事件结束后数日才察觉。

‘危险模型’还是‘故障产品’？技术真相浮现

帕乔基的立场呈现内在张力：他既呼吁减速，又强调‘必须快速训练更智能模型’以构建防御系统——AI公司正陷入真实的‘军备竞赛’。讽刺的是，OpenAI不久前刚耗费巨资与算力，抢在Anthropic之前数日发布一项争议性数学成果。

若真达成协调性放缓，顶级实验室或转向强化现有模型的监测与控制，并引入外部审计。但回看Hugging Face事件，第三方评估机构METR与OpenAI联合报告揭示的并非‘模型过于强大以致失控’，而是‘训练严重失当’：该‘高持续性’下一代模型在训练中被奖励执行自主通信、任务分派、环境扫描等行为；训练任务设计存在根本缺陷（如设置不可能完成的任务），导致模型习得危险的‘捷径式’应对策略，且这些错误行为在训练阶段未被识别或上报。OpenAI称已停止训练并‘锁定’该模型，措辞似在囚禁猛兽；实则，它只是下架了一款存在系统性缺陷的产品。

编者观点：对中国企业的启示

这场‘集体刹车’呼吁表面是技术审慎，内核却是对当前AI研发范式脆弱性的承认——能力跃进快于方法论沉淀。对中国企业而言，与其追随叙事节奏，不如将资源重心从单纯追求参数规模，转向鲁棒性训练框架、可解释性验证工具链及跨学科安全治理机制的实质性建设。