AI模型内部状态可分离对应推理步骤

内部状态与推理步骤存在可分离映射

研究指出，诸如数值计算、公式检索和逻辑演绎等不同类型的书面推理步骤，在大语言模型的内部表征中——尤其在中间网络层——展现出高度可区分的神经活动模式。这些模式并非混杂或模糊，而是具备统计显著性的分离性。

对AI安全评估提出新维度

该发现意味着，仅依赖模型输出的‘思维链’（Chain-of-Thought）文本进行行为推断存在局限。模型内部实际执行的推理路径可能更复杂、更隐蔽，而这种可分离性为未来开发基于内部状态监控的安全验证方法提供了实证基础。