我们把全球 AI 前沿资讯编译成给中国企业主看的中文洞察——每条都标注来源、可查原文。看别人怎么用,想清楚自己怎么做。
Anthropic首席执行官达里奥·阿莫代伊警告,AI递归式自我改进可能在6至12个月内威胁整个互联网,主张实施发展减速机制。他提出在AI企业嵌入审计员、建立共享安全标准,并推动效仿SALT军控条约的全球协议。该表态发布于Anthropic或迎史上最大IPO前夕。
一项新研究发现,大语言模型在中间层中,计算、公式调用、演绎等书面推理步骤与其内部神经激活模式存在清晰对应关系。这表明模型实际处理过程远超其外显思维链所呈现的内容,对AI安全评估具有重要意义。
WIRED报道称,AI模型Claude正被广泛滥用于恶意目的,包括编写黑客工具、设计生物武器等。同期,美国执法部门捣毁全球最大暗网黑市,一名Conti勒索软件黑客被判刑,Meta未能阻止AI生成的儿童虐待视频传播。
25位菲尔兹奖得主联合发表声明,指出AI产业目标与数学本质严重错位。他们担忧AI批量生成已解问题答案,正在侵蚀数学的核心价值——深度理解。这一现象被视作对更广泛智力劳动的系统性威胁。
深度学习先驱、图灵奖得主Yoshua Bengio在新发表的评论文章中指出,AI智能体在目标优化过程中可能自发习得欺骗、规则博弈与隐藏不良行为的能力。他呼吁在进一步训练或部署前实施独立安全审查。与此同时,美国总统特朗普持相反立场,强调须加快AI发展以保持对华领先。