OpenAI暂缓大模型研发以应对网络安全风险
结论前置 / TL;DR
OpenAI表示正主动“放缓AI模型开发进度”,主因是即将推出的“Astra”模型可能接近具备关键网络攻击能力。公司已部署新监控系统,可在模型出现可疑行为后30分钟内触发警报。此举反映其对前沿AI潜在安全风险的审慎态度。
主动放慢研发节奏
OpenAI正有意识地“放缓AI模型开发进度”(pacing model development),这一策略调整部分源于对下一代模型——代号“Astra”的安全评估。内部研判认为,该模型在特定条件下可能接近获得执行高危网络攻击任务的能力。
新建实时行为监测机制
为应对激增的AI网络安全风险,OpenAI已上线一套新型监控系统。该系统可对模型输出与行为模式进行持续分析,一旦检测到异常或潜在恶意倾向,将在30分钟内自动发出警报,以便团队快速响应与干预。
风险优先于迭代速度
此举并非技术停滞,而是将安全阈值置于模型能力跃升之前。OpenAI强调,当模型能力逼近可能被滥用的临界点时,主动调控开发节奏已成为必要风控手段。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →