谷歌开源RRSI:可自优化AI智能体框架
谷歌研究院联合多所高校开源RRSI(正则化递归自改进)框架,支持LLM智能体在不更新模型权重的前提下,自主迭代优化其提示词、工具调用、记忆机制与控制流等‘运行 harness’。该方法通过编辑预算约束、防泄漏筛选与成本规则等正则化机制,显著提升跨任务泛化能力,在8个基准测试中均实现未见任务性能提升。
开源框架:RRSI正式发布
谷歌云AI研究院联合北卡罗来纳大学教堂山分校、斯坦福大学及圣路易斯华盛顿大学,正式开源RRSI(Regularized Recursive Self-Improvement)——一种面向AI智能体的正则化自改进框架。RRSI允许大语言模型智能体在完全冻结模型权重的前提下,自主重写其运行时‘harness’(即完整执行环境),涵盖提示词、工具集成、记忆管理、控制流程及子智能体编排等全部可配置组件。项目以研究框架定位发布,代码采用Apache 2.0许可证,支持Python 3.10+,兼容任意LiteLLM模型字符串;默认配置基于Vertex AI平台上的Claude Opus 4.8模型。
为何需正则化?传统自进化易过拟合
现有智能体harness进化范式通常依赖固定‘演进集’(evolve set)反复评估候选修改,导致三大典型失败模式:基准特异性拟合(仅在演进任务上提升)、噪声追逐(响应随机波动而非真实增益)及复杂度累积(无意义增加组件数量或逻辑深度)。这些现象共同拉大了演进集得分与真实迁移性能之间的鸿沟。RRSI的核心突破在于:不禁止进化本身,而是对进化过程施加结构化约束。
RRSI双阶段正则化机制
RRSI将自改进循环解耦为‘提案侧’与‘选择侧’,分别引入多重正则化策略:
提案侧:
- 退火式编辑预算:采用余弦调度,初期允许多项协同编辑,后期仅允许单次、可归因的变更;
- 证据感知信用机制:每个候选方案须记录其修改组件、假设依据、代码差异、得分变化与开销变化;提案者可读取历史日志,避免重复验证已被证伪的思路;
- 结构化探索:当性能停滞于噪声带内时,编辑预算自动转向此前从未触达的组件模块。
选择侧:
- 防泄漏批评器(Leakage Critic):在评分前主动剔除含任务名称、实体、答案或基准特有逻辑的候选方案;
- 噪声校准基线:要求性能增益必须显著超越原始harness在相同任务上的方差水平;
- 成本约束规则:新增推理token开销必须由实测性能提升予以补偿;
- 组件剪枝机制:长期未产生有效增益的组件被标记为删除候选。
研究团队指出,上述设计分别对应经典机器学习正则化思想:编辑预算类比L0稀疏性约束,剪枝机制近似Lasso(L1),成本规则则体现Ridge(L2)思想。
实验结果:泛化能力显著跃升
RRSI在8个权威基准上全面验证有效性:
- Terminal-Bench 2.1(演进集):准确率从74.2%提升至80.2%;
- SWE-bench Verified(全程未参与选择过程):从82.0%升至83.8%,证实强迁移性;
- 分布外(OOD)任务:JobBench +4.7、GDPval +3.5、APEX-Agents +3.7分;
- 工程类基准:EngDesign +4.9、Frontier-Eng +4.3 Medal分;
- Harvey LAB:演进集+1.1分,独立保留集+2.3分,全部6个保留集均获提升;
- 换用Gemini 3.5 Flash作为策略模型后,Terminal-Bench 2.1达78.7%(+14.1),SWE-bench Verified达79.0%(+2.2);
- 推理效率同步优化:每轮试验策略token用量从3.80M降至2.42M,降幅达30–36%。