研究质疑AI自主科研可行性
结论前置 / TL;DR
一项由普林斯顿大学与英国AI安全研究所联合开展的研究显示,即便使用Claude Opus 4.8和GPT-5.6 Sol等前沿模型,AI代理在六天内、3000美元API预算及GPU支持下独立撰写AI研究论文,仍被原作者评为“拒稿”。研究指出,当前模型可执行工程流程,但缺乏科研判断力、创造性问题解决能力及及时终止失败路径的能力。
实验设计与结果
研究团队让AI代理基于未发表的NeurIPS论文选题,在六天时间、3000美元API信用额度及GPU资源支持下,全程独立完成文献调研、实验设计、代码实现、结果分析与论文撰写。最终产出的论文交由原作者双盲评审,一致给出“Reject”结论。
关键能力缺口
该研究由普林斯顿大学与英国AI安全研究所合作完成。报告指出,尽管前沿大模型能胜任科研中的工程性任务(如调用工具、运行代码、格式化写作),但在三项核心科研能力上显著不足:研究判断(如识别关键科学问题)、创造性问题求解(如提出新假设或架构),以及元认知层面的策略调整能力(如主动放弃无效方法)。
对行业主张的挑战
该结果直接质疑了Anthropic与OpenAI近期关于‘AI自主开展前沿AI研究已近在咫尺’的公开论断。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →