AI代理承担过半方法设计,但决策权仍在人类手中
结论前置 / TL;DR
一项针对769条模型开发任务日志的研究发现,AI代理贡献了最多55%的方法建议,但人类做出了超85%的最终决策。三分之一的任务因AI介入才得以启动。研究强调,代理参与度提升不等于自主性增强。
AI代理深度参与建模过程
研究团队系统分析了自身AI模型开发过程中产生的769条任务日志。数据显示,AI代理在方法论层面高度活跃——在所有提出的方法建议中,AI代理贡献比例最高达55%。
人类仍牢牢掌握决策主导权
尽管AI代理承担大量前期工作,人类研究人员仍做出超过85%的最终决策。此外,约三分之一的任务原本不会被启动,正是由于AI代理主动识别问题并提议探索路径,才推动项目进入新阶段。
参与≠自主:关键警示
作者特别指出,AI代理活动量的增长不能被简单等同于其自主性的提升。当前范式下,代理本质上是增强型协作者,而非替代性决策主体;其价值在于拓展人类能力边界,而非转移责任归属。
编者观点:对中国AI研发团队而言,该研究印证了‘人机协同’而非‘机器替代’的务实路径,提示需同步加强人类工程师的AI协作素养与决策把关能力。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →