Sakana AI自改进模型提升解题与评判能力,却难发现自身盲点
结论前置 / TL;DR
Sakana AI提出的MASS方法使语言模型通过自主解题、结果评判与工作流优化实现自我迭代,两轮后对基线模型胜率达近70%。但当模型在解题者、评判者、优化者三重角色中持续忽略同一类错误时,会误将错误视为进步并在训练中强化之。
MASS:三重角色驱动的自改进循环
Sakana AI推出的MASS(Model Autonomous Self-Improvement)方法,让单一语言模型同时承担解题者、评判者和工作流优化者三重角色,形成闭环式自我增强流程。实验显示,经过两轮MASS迭代,该模型在多项任务上对原始基线模型的胜率提升至近70%。
盲点固化风险暴露
研究指出,该机制存在关键局限:若某类错误在解题、评判与优化三个环节中被系统性忽略(例如特定逻辑漏洞或事实偏差),模型会将其误判为正确行为,并在后续训练中反复强化,导致盲点固化而非消除。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →