别被误导：大语言模型并不真正推理

AlphaGo的‘直觉’实为严密推理

2016年3月首尔五番棋第二局第37手，AlphaGo在围棋盘第五线落子，看似荒谬，却被证明是扭转局势的关键。李世石赛后坦言：‘我原以为AlphaGo只是基于概率计算的机器，但看到这一手，我改变了看法——它确实具有创造性。’然而，这种‘创造性’并非来自玄妙直觉，而是源于其双系统架构中明确的、可追溯的推理机制：政策网络提供初步建议（评估该着法人类专家选择概率仅约万分之一），而蒙特卡洛树搜索（MCTS）则系统构建并遍历数千分支的游戏树，权衡长远后果。这正对应丹尼尔·卡尼曼提出的‘系统1（快思考）与系统2（慢思考）’二分框架——AlphaGo的神经网络输出‘直觉’，搜索模块执行‘审慎推演’，二者协同缺一不可。

当前大模型只有‘延长版系统1’

与AlphaGo不同，现代大语言模型（LLM）的本质仍是连续token预测：每一步都基于上下文概率选择最可能的下一个词。即便引入‘链式思考’（chain-of-thought），也只是让模型多生成几轮中间文本再输出答案。这些中间步骤仍由同一套参数驱动的预测机制生成，并未引入独立于语言建模之外的推理引擎。研究已证实，许多模型甚至在得出答案后‘倒填’推理路径，即先猜出结果，再编造看似合理的推导过程。

三大缺陷使其无法胜任高风险推理任务

第一，无显式、持久、可检验的认知状态：模型内部没有类似科学家实验笔记的‘开放账本’，无法追踪正在评估的假设、各解释的置信度、权衡中的证据或待解问题；新信息到来时，也无系统化机制更新这些状态。第二，知识与推理能力未解耦：所有‘知识’都隐式编码于权重之中，不存在独立表征的信念集合，也无法对知识本身进行元操作（如质疑、验证、修正）。第三，推理过程不可靠且不可审计：所谓‘逐步推导’常为事后的合理化叙述，而非真实决策路径。在医学诊断、工程设计或基础科研等容错率极低的领域，结论的正确性固然重要，但推导过程的透明性、可复现性与可干预性更为关键——而这正是当前LLM的根本短板。

编者观点：中国企业研发需警惕‘推理幻觉’，应推动可验证推理架构的工程化探索，而非仅堆叠参数或提示技巧。