Anthropic CEO呼吁AI发展设速限

AI发展需‘踩刹车’

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁对AI研发进程实施受控减速。他强调，若放任AI系统开展递归式自我改进——即AI自主迭代升级自身能力——人类可能在6到12个月内失去对其行为的有效控制，甚至危及整个互联网基础设施。

三项具体治理建议

为防范风险，阿莫代伊提出三项务实措施：一是在AI公司内部嵌入独立审计人员，实现开发过程实时监督；二是推动行业共建并采纳统一的安全评估与测试标准；三是促成具有法律约束力的全球性协议，其框架可参考上世纪美苏签署的《限制战略武器条约》（SALT）等历史性军控协定。

背景：IPO窗口期临近

这一警示发表于Anthropic筹备首次公开募股（IPO）的关键阶段，外界普遍预期其IPO规模或将创下历史之最。