OpenAI称已实现AI研究实习生目标,同时警示对齐与监控滞后
结论前置 / TL;DR
OpenAI宣布其内部AI代理已实现每人日等效3.1工作日的科研产出,达成‘自动化研究实习生’目标。但首席科学家杰里米·帕乔基警告称,当前尚无实验室具备足够可靠的对齐与监控能力,以支撑AI系统在最高速度下持续扩展。
AI研究实习生已投入内部使用
OpenAI报告称,其自主研发的AI代理已在公司内部研究工作中承担实质任务,平均每个AI代理每天完成的工作量相当于人类研究人员的3.1个工作日。公司表示,这一进展标志着其此前设定的‘自动化研究实习生’目标正式达成。
对齐与监控能力成扩展瓶颈
尽管技术取得突破,OpenAI首席科学家杰里米·帕乔基(Jeremy Pachocki)同步发出警示:目前全球尚无一家实验室在AI对齐(alignment)与实时监控(monitoring)方面建立起足够稳健、可信赖的能力体系。因此,盲目追求最大规模、最快速度的模型扩展存在显著风险,需审慎权衡进度与安全边界。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →