NVIDIA推出SoL-Pi:自动研发循环降低编码智能体49%令牌流量
NVIDIA联合NTU与MIT团队发布SoL-Pi,一套面向开源Pi编码智能体的4项效率优化机制。其通过在harness层运行自动研发循环发现优化策略,在EdgeBench 51任务基准上将令牌流量减少44.7%–49.0%,API成本降低约33%,性能保持接近原Pi水平。项目已开源,MIT许可证,兼容Pi 0.85.1。
自动研发循环驱动的harness层优化
当前编码智能体(coding agents)执行时长已达数小时级别,每次文件编辑、测试运行或日志读取均需注入模型上下文,导致令牌消耗激增。为应对这一瓶颈,NVIDIA、新加坡南洋理工大学(NTU)与麻省理工学院(MIT)联合研究团队提出SoL-Pi——一套专为开源Pi编码智能体设计的4项轻量级效率机制。这些机制并非由人工设计,而是由一个‘研究型AI’在harness层(即协调工具调用、上下文管理、观测反馈与任务委派的核心控制层)中,通过多轮自动研发(auto-research)循环自主发现并验证得出。
搜索方法论:隔离式、可验证、不泄露的闭环迭代
该自动研发流程严格遵循‘可复现、不可干预’原则:研究AI观察基础Pi智能体在独立环境中的执行轨迹;据此生成harness修改提案,并在535个可执行环境中进行验证——其中495个源自GitHub真实issue-PR配对,40个为带可执行校验器的合成任务。整个搜索过程包含超3000次运行、逾6万次智能体-环境交互。每个搜索循环均为一次性、隔离式运行,集成Ralph Loop实现步骤与独立评审机制。所有接受规则(如性能容忍度、必须提升至少一项效率指标)在搜索启动前即冻结,优化器无权更改。EdgeBench的51个公开任务被严格划分:11个用于候选方案‘单向准入’(one-way acceptance),其余40个全程‘持出’(held out),其结果绝不参与任何中间搜索决策。
四项落地机制:从通信冗余到上下文治理
最终保留的四项机制直击编码智能体高频低效环节:
- Action Fusion(动作融合):将‘编辑文件’与后续‘运行/构建/测试’拆分为两个独立工具调用,合并为单次请求,同步返回编辑结果与执行输出,消除一次模型往返。
- Online Context Compact(在线上下文压缩):动态评估`update_plan`中剩余步骤数,当预估的输入节省量超过重写prompt缓存的开销,或上下文逼近窗口上限时,触发Pi原生压缩机制。
- ObservationPack(观测打包):对超10 KiB的工具输出(如编译日志),本地归档后,在接下来2次provider请求中发送完整内容;第3次起仅提供稳定句柄(handle)、原始大小及首尾数行摘要;全文仍可通过句柄精确检索。
- Evidence-Preserving Reducer(证据保留型缩减器):将≥4 KiB的构建/测试日志交由更低成本模型GPT-5.6 Luna(high配置)生成紧凑收据(receipt),再由确定性校验器验证其结构、源哈希、退出码、关键引文及尺寸。仅当校验失败、凭证可疑或收据未更小时,才回退使用原始日志。
EdgeBench实测:高效与性能的平衡解
在51任务EdgeBench基准上,SoL-Pi在GPT-5.6 Sol后端下令牌消耗从Pi的2.15B降至1.10B(↓49.0%),API成本从$1,339降至$894(↓33.2%),平均分42.0(Pi为44.8,达93.7%);在Opus 5后端下令牌降44.7%至1.31B,成本降33.5%至$1,158,得分42.2(达94.3%)。若采用‘性能优先’配置(GPT-5.6 Sol用ObservationPack,Opus 5用Action Fusion),得分分别达47.2与50.5,较Pi提升5.3%和12.8%。值得注意的是,尽管SoL-Pi在GPT-5.6 Sol上缓存写入流量略有上升(0.0141B→0.0316B),总成本仍显著下降。
开源即用,无缝集成
SoL-Pi作为MIT许可的扩展模块,已发布于GitHub NVlabs组织下,无需修改Pi原版代码即可运行,经测试兼容Pi 0.85.1与Node.js 22.19+。除EdgeBench外,其在Terminal-Bench 4等其他基准中亦验证了泛化有效性。
> 编者观点:SoL-Pi揭示了一条被长期忽视的AI工程路径——在不更换大模型、不重训agent的前提下,通过精细化harness层架构优化,可系统性压降推理成本。对中国AI工具链厂商而言,这意味着更低门槛的商业化落地能力:聚焦‘如何让现有模型跑得更省’,可能比追逐参数规模更具现实竞争力。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。