图灵奖得主萨顿批合成数据是“重大错误”

‘合成数据是重大错误’

图灵奖得主、强化学习先驱理查德·萨顿（Richard Sutton）公开批评当前依赖合成数据扩展大语言模型的做法，称其为‘重大错误’（a 'big mistake'）。

世界不可被充分模拟

萨顿强调，现实世界具有无限复杂性，任何人工构建的数据模拟——无论多精细——都仅是‘微观尺度’（microscopic）的近似，无法承载真实世界的动态性与多样性。

人类专家成规模化瓶颈

他进一步指出，合成数据的生成高度依赖人类专家设计规则与分布，这种人为干预反而构成‘瓶颈’，严重限制了AI系统向真实世界规模自主扩展的能力。

转向持续学习的智能体

作为替代路径，萨顿倡导发展能从自身交互经验中持续学习的AI智能体，而非依赖一次性训练、长期冻结的静态模型。