英伟达SoL-Pi系统优化控制层,编码智能体Token用量降近半
结论前置 / TL;DR
英伟达推出SoL-Pi系统,通过优化大模型与执行环境之间的控制层(harness),将编码类AI智能体的Token消耗降低最多49%,性能几乎无损。该系统由一名研究型智能体在超3000次运行中测试152种方法后开发而成,但在其他基准测试中增益较小。
控制层优化带来显著Token节省
英伟达SoL-Pi系统聚焦于优化AI智能体架构中模型与外部环境(如代码执行器、API工具)之间的控制层——即‘harness’。这一轻量级调整未改动基础模型本身,却使多种编码智能体的Token使用量最高减少49%,同时保持任务完成率、准确率等核心性能指标基本不变。
自动化研究验证路径
系统开发过程由一个自主研究智能体主导:该智能体在超过3000次实验运行中系统性评估了152种不同的harness设计方案,最终筛选出SoL-Pi最优配置。值得注意的是,其Token效率提升在编码任务(如HumanEval、MBPP)上最为显著,在其他类型基准测试中收益相对有限。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →