Fireworks AI发布Nexus:面向开发团队的AI路由与成本管控层
Fireworks AI推出Nexus平台,通过智能路由将常规编码任务自动调度至低成本开源模型,同时保留对闭源前沿模型的按需调用能力。实测显示其可降低3–5倍推理成本,并在多项工程任务评估中实现成本与效果的更优平衡。
面向工程组织的AI成本治理新方案
Fireworks AI正式发布Fireworks Nexus——一款专为软件工程团队设计的AI管理与智能路由平台。该平台不替代现有开发工具,而是作为‘插入即用’(drop-in)中间层,将开发者日常使用的编码助手(如Claude Code、Codex、OpenCode等)无缝对接至Fireworks托管的开源大模型服务,旨在解决当前企业AI支出失控的核心矛盾:大量例行编码工作正以前沿闭源模型(如Claude Opus、GPT-5.5)的高价运行,而迁移至开源模型又因运维复杂性被平台团队长期搁置。
三大核心能力:可控、连续、智能
Nexus由三个模块构成:
1. 企业级管控与成本可观测性:支持按团队或公司级设置预算阈值;统一追踪不同模型与工具组合的ROI;集中执行访问策略与合规规则。所有请求均经Fireworks生产级推理平台处理,提供美国本土托管端点、零数据留存承诺,并覆盖全球20个数据中心。
2. 工作流零改造延续性:FireConnect组件采用Apache 2.0协议开源,仅需一行命令即可从Fireworks仪表盘安装。它通过映射‘模型槽位’(model slots)实现兼容——原有工具无需代码修改,Claude Code等仍照常运行。其底层基于Anthropic-与OpenAI兼容的Serverless API,绝大多数工具只需更换基础URL与模型ID即可接入。
3. 基于难度的智能流量分发:Nexus内置一个定制训练的轻量级评分模型,实时评估每个请求的复杂度。简单任务(如补全、注释生成、单元测试编写)自动路由至Fireworks托管的开源模型(如GLM-5.2、Kimi K3);高难度任务(如跨模块重构、复杂调试)则透传至用户自有密钥绑定的闭源服务商(当前需Anthropic密钥)。Fireworks称该机制平均带来3–5倍成本下降。
实证效果:成本显著下降,质量未明显折损
Fireworks研究团队联合Notion、Doximity等企业开展预览测试,初步数据显示:每条成功合并的Pull Request平均成本下降约三分之一;综合Token消耗速率约为闭源模型实验室报价的四分之一。
更关键的是两项独立第三方评估:
- Faros AI评估:基于12个真实代码仓库的211项工程任务,在7种模型+工具组合路径下测试。Claude Code搭配GLM-5.2得分为0.568,略高于Claude Opus 4.8的0.521;但单任务成本仅为$0.92,显著低于$1.76。缓存命中率(89.7% vs 99.7%)排除了缓存效应主导结果的可能性。
- Arize联合研究:在40个Terminal-Bench任务上对10个模型各运行6次(共2400次API调用,总花费$626),以‘每成功任务成本’(含失败重试)为关键指标。结果显示:在简单任务上,Kimi K2.6通过率73%,GPT-5.5为69%;在困难任务上,仅GPT-5.5(51%)与Kimi K3(32%)具备竞争力。模拟路由策略中,‘阶梯式升级’(ladder)方案以$0.525/成功任务的成本稳定解决40项中的32.3项,优于GPT-5.5单模型($0.636,解决25项)及盲目轮询全部10模型($1.319)。
落地路径:三种接入方式,适配不同成熟度团队
Nexus提供三类部署选项:
- FireConnect插件路径:最低摩擦,要求系统已安装Claude Code CLI;仅需一次输入Fireworks API Key,自动注册插件市场并备份原始配置。提供`/fireconnect:on/off/setup/models/set-models`等命令行指令。
- 环境变量直连路径:跳过插件,直接设置`ANTHROPIC_BASE_URL`指向Fireworks端点并配置对应Key,或使用OpenAI兼容客户端修改Base URL与Model ID。
- 自定义集成路径:Arize指出,将其评估框架接入新模型仅需一行配置——企业可基于开源评估套件(如Arize Harness)复现验证,再将路由逻辑嵌入自身CI/CD或IDE插件中。