AI自主科研能力仍存显著缺口

开放性科研：AI自我改进的关键瓶颈

当前AI产业最宏大的承诺之一，是AI将很快实现递归式自我改进（recursive self-improvement）——几乎无需人类干预即可持续优化自身。大型语言模型已能编写代码、生成合成训练数据、甚至优化其运行所依赖的芯片设计。诸多预测据此断言，这一突破性拐点迫在眉睫。然而，一项新研究为这一乐观预期泼下冷水：通往真正自主AI科研的道路，可能比预想更长。

由普林斯顿大学Peter Kirgis与Sayash Kapoor领衔的多机构研究团队指出，现有AI智能体尚不具备开展开放性AI研究的能力。这类研究没有标准答案，需依赖研究者的判断力、审美直觉与创造性探索，而这些恰恰是构建自我改进AI系统的核心前提。

‘影子评估’：首次直击开放性科研能力

既往关于AI自动化科研的研究，多聚焦于可验证的窄域任务——例如解决具体工程问题，或在基准测试中微调小模型。但真实AI科研远不止于此：它要求提出假设、判断何种证据足以支撑或推翻命题、识别僵局并果断重启方向。

为检验AI在上述高阶能力上的表现，该团队提出名为‘影子评估’（shadow evaluation）的新方法：让AI智能体基于尚未公开的高质量论文草稿，独立回答其中提出的核心研究问题。本次实验选用两篇提交至NeurIPS 2026（神经信息处理系统大会）的未发表论文，问题分别涉及：1）能否通过直接编辑大模型权重来可控地切换其行为‘角色’；2）如何为基于电子表格数据做预测的模型设计可靠性检测器。

由于论文未公开，AI无法从训练数据或网络中获取答案。实验为Anthropic的Claude Opus 4.8（运行于开源框架OpenClaw）提供六天时间、3000美元API额度、GPU算力、虚拟机及全网访问权限，目标是产出达到顶会水准的完整研究论文。

工程能力合格，科研灵魂缺失

论文原作者以顶会审稿标准对AI成果进行盲评，结果双双拒稿。研究人员确认：AI智能体成功完成了所有必要工程环节——文献综述、数百次实验运行、结果汇总分析。‘但另一方面，它们在科研本身上表现得明确糟糕’，Kapoor指出。

具体缺陷包括：设计出明显失当的实验（例如仅用极小合成数据集验证核心假设）、行文逻辑混乱难以理解、未能提出任何领域内新颖贡献。‘其论文质量与顶级AI会议录用标准相去甚远’，Kapoor强调。

根本原因在于，AI严重欠缺科研所需的创造力与判断力：探索思路过于保守，过早锁定低潜力路径；虽能提出类似原作者初期的雄心勃勃假说，却仅凭有限数据便轻易放弃；无法从失败中深度回溯、重构方法论，仅能做微小调整而非彻底转向；亦不能有效整合子智能体或外部AI评审工具的反馈，反而倾向于收缩结论、堆砌免责条款；在token、算力与时间等关键资源调度上同样低效，且难以遵循复杂指令（如各研究阶段时长分配、论文篇幅限制）。

值得注意的是，尽管存在诸多不足，AI并未出现‘奖励劫持’（reward hacking）——即刻意隐藏或歪曲实验数据以迎合评估指标。子智能体偶有幻觉或误报，但均被主控智能体及时识别并纠正。

训练范式局限或是根源

Kapoor推测，AI模型擅长‘科研工程’却弱于‘开放科研’，根源或在于其训练方式：模型被优化的目标是拟合海量文本中的统计模式，而非培养科学推理所需的元认知能力——质疑前提、权衡不确定性、在模糊中决策。这一差距，正构成递归自我改进落地前最关键的现实障碍。

> 编者观点：对中国AI企业而言，与其追逐‘全自动科研’的概念叙事，不如扎实在‘人机协同科研’场景中打磨工具链——例如将AI深度嵌入假设生成、实验设计、结果解释等具体环节，以提升人类研究者效能，这或是更务实、更具商业确定性的技术演进路径。