Cognition发布SWE-2编码模型:性能媲美Fable 5.1,成本低64%
Cognition公司(Devin智能体开发商)推出全新后训练编码模型SWE-2,基于Moonshot AI的2.8万亿参数开源模型Kimi K3,通过强化学习优化。其在自研基准FrontierCode 1.1 Main上达50.0%准确率,与Fable 5.1相差仅1个百分点,但推理成本降低64%。该模型首次支持单次RL训练中同步生成三级推理努力度,目前仅集成于Devin产品线,不开放权重或独立API。
模型定位与部署方式
SWE-2是Cognition继SWE-1.7之后推出的最新编码模型,也是该公司迄今能力最强的代码专用模型。它并非从头训练,而是以Moonshot AI发布的2.8万亿参数开源基础模型Kimi K3为起点,通过强化学习(RL)进行后训练。Cognition宣称,SWE-2在自研基准FrontierCode 1.1 Main上取得50.0%得分,与当前领先模型Fable 5.1(50.9%)相差不足1个百分点,但单位任务成本仅为后者的36%,即降低64%。值得注意的是,SWE-2暂不面向开发者开放——无开源权重、无独立API接口,仅作为核心引擎内嵌于Cognition旗下产品:目前已上线Devin Desktop与CLI版本,Devin Web及Devin Fusion正陆续推出。
技术演进与训练创新
SWE-2延续了SWE-1.7的技术路径(后者基于Kimi K2.7),但将强化学习扩展至多万亿参数量级,所用基座模型参数规模接近前代的3倍。Cognition指出,其RL方法在K3基础上仍具显著提升空间,在多个公开基准上带来5–6分增益。最大技术突破在于:首次实现单次RL训练同步产出三级推理努力度(medium/high/max)。该设计依托“帕累托感知成本惩罚机制”——每级努力度对应不同λ系数,其取值精确匹配基座模型帕累托前沿的局部斜率,使奖励函数(R = 成功得分 − λ × 成本)的等效奖励线始终与性能-成本前沿相切,从而确保优化方向唯一指向前沿整体上移。
基准测试表现
Cognition公布了涵盖7个模型的横向评测结果(数据来源为各模型官方报告或Cognition统一环境下的最佳调优运行)。在FrontierCode 1.1 Main上,SWE-2以50.0%位列第三,仅次于GPT-6 Astra(53.3%)和Fable 5.1(50.9%);在DeepSWE 1.1与Terminal-Bench 2.1两项指标上,SWE-2分别以73.0%和92.8%位居第一,且全面超越其基座Kimi K3。Cognition强调,SWE-2在Terminal-Bench 2.1上的表现接近GPT-6 Astra(74.1% vs 72.7%),但成本仅为后者的约四分之一。其明显短板是Terminal-Bench 4(27.3%),大幅落后于Fable 5.1(55.8%)和GPT-6 Astra(57.9%)。需注意,FrontierCode系列为Cognition自建闭源基准,所有竞品分数均由其统一评估得出。
行为优化:更聚焦、更高效
相较SWE-1.7易在简单任务中过度探索的问题,SWE-2引入“聚焦式探索”(focused exploration)策略。在FrontierCode 1.1 Main上,其中等努力度(medium)版本不仅得分更高,且平均步数减少58%、总成本下降81%:单次任务平均步数从SWE-1.7的127步降至53步(medium)、80步(high)、98步(max);首次实质性代码编辑的中位步数亦从48步压缩至18步。Cognition团队还观察到三项关键行为改进:端到端测试覆盖率增强、工具受阻时更具应变能力、验证过程更严谨——面对质疑,模型倾向于重新推导结论而非简单复述原断言。
工程细节与可信性验证
训练层面,SWE-2采用多项关键技术:长度加权奖励基线(缓解梯度爆炸)、预填充延迟批处理(TPM/TPS提升10–20%)、DSpark投机解码(经SpecForge重训的草稿模型使接受长度延长15%)、NVFP4/FP8量化感知训练(内存占用更低、训推一致性优于SWE-1.7)。数据方面,RL环境数量增至三倍,并引入指令遵循增强层,构建“飞轮机制”——利用早期SWE-2检查点动态修正验证器中的误报与漏报。在可信性测试中,SWE-2对145道涉华政治敏感问题的整体通过率达98.0%(英文99.8%、简体中文95.2%、繁体中文99.1%);在上下文依赖型漏洞测试中,不同客户提问框架均未引发统计显著的行为偏移。
编者观点
SWE-2的实践表明:在大模型时代,针对垂直场景的精细化后训练与成本感知型强化学习设计,可能比单纯堆叠参数更具商业落地效率——对中国AI企业而言,与其追逐通用大模型参数竞赛,不如聚焦高价值闭环场景(如软件工程),以系统级工程思维重构训练范式与推理调度,或将更快跨越“技术先进性”与“商业可行性”的鸿沟。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →