忽视人类信念的世界模型会误判行为
结论前置 / TL;DR
新研究指出,当前主流世界模型(如Sora、Genie)仅建模物理规律,忽略人的信念、意图与情感,导致对人类行为预测失准。研究提出‘心智世界建模’框架,引入心理状态变量,即使较弱的语言模型接入该框架后,性能也超越未建模心智的更强基座模型。联合推断物理与心理状态演化仍是最大瓶颈。
忽视心智导致行为预测偏差
当前世界模型(如OpenAI的Sora、Google DeepMind的Genie)专注于物理世界的动态模拟,但完全不表征人类的信念、欲望、意图或情绪等心智状态。这导致其在涉及社会交互或人为决策的场景中频繁预测错误动作。
‘心智世界建模’框架引入心理变量
新提出的‘Mental World Modeling’框架将信念、目标、注意力等可量化心智变量显式纳入世界模型架构。实验表明,即便使用参数量更小、能力较弱的语言模型作为心智推理组件,只要整合该框架,其动作预测准确率仍系统性优于未建模心智的更强基座模型。
联合建模是核心挑战
研究指出,当前最大技术瓶颈在于同步建模物理状态(如位置、速度)与心理状态(如信念更新、意图转变)的耦合演化过程——二者并非独立变化,而是持续相互影响。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →