Fireworks AI发布Ember-1:后训练优化的Kimi K3模型,推理token减少约40%
Fireworks AI推出Ember-1,系对Moonshot AI开源模型Kimi K3进行后训练优化的专用版本,聚焦压缩推理链长度而非降低推理强度。实测在保持任务准确率前提下,token消耗减少35%–50%,已在客户生产环境A/B测试中验证。目前仅通过Fireworks无服务器API以研究预览版形式提供,未开源权重与训练代码。
Ember-1是什么?
Ember-1是由Fireworks Research团队开发的专用大模型,基于Moonshot AI开源的Kimi K3权重,通过后训练(post-training)方式进行优化。其核心目标是让模型生成更短的推理轨迹(reasoning traces),同时维持原有任务准确率。这与在推理时简单调低‘推理努力度’(reasoning effort)参数有本质区别——后者会显著牺牲质量,而Ember-1则通过学习更高效的内部推理路径实现成本压缩。
据Fireworks官方发布说明,Ember-1在多项基准测试中达到Kimi K3同等质量水平,但token用量减少约40%。该模型当前仅作为‘研究预览版’(Research Preview)开放,仅可通过Fireworks无服务器API调用;其模型权重、训练代码及具体算法均未公开,暂不支持自托管部署。
为何需要更短的推理链?
Fireworks团队指出,以Kimi K3为代表的强推理模型,其生成内容中常有超90%的token用于内部推理过程,而非最终输出。这一问题在多轮智能体(agentic)工作流中被急剧放大:每一轮交互均需将历史推理内容重载为上下文,导致上下文长度随轮次近似呈二次方增长。早期生成的冗长推理链在后续每一轮中被重复读取、重复计费,造成显著成本浪费。
客户明确希望以更低开销获得Kimi K3级别的编程能力,但单纯下调推理努力度设置无法兼顾成本与质量。因此,团队选择从模型层面入手,训练其‘更聪明地思考’,而非‘更少地思考’。
训练方法与数据
Ember-1并非粗暴删减推理步骤,而是保留有价值的自我反思行为(如修正假设、响应反馈),同时剔除冗余推理和无效循环。训练数据覆盖数学、编程、指令遵循、对话、搜索、工具调用及软件工程等领域,既包含单步问题,也涵盖多阶段交互任务。训练过程采用任务与环境反馈驱动的在线策略规划(on-policy planning),并融合Fireworks自研的未公开新算法。全部训练在Fireworks Serverless Training平台完成,声明未使用任何客户数据,仅依赖自有数据集。
基准测试与生产验证
Fireworks在7项基准测试及2家客户真实生产流量中评估Ember-1。对比Kimi K3在低/高/最大推理努力度下的表现,Ember-1在Terminal Bench 2.1(82.0%)和DeepSWE 1.1(75.2%)上反超K3 Max,而在SWE-bench Verified(92.2% vs 93.2%)和SWE-Interact(20.0% vs 21.3%)上小幅落后。整体推理token减少35%–50%,精度无损。
在医生验证的临床案例集Doximity Bedside Bench上,Ember-1确立了新的单位任务成本帕累托前沿。此外,Fireworks面向两家客户的生产级编码负载开展A/B测试:输出token从每任务49.3K降至29.9K(-39%),其中纯推理token下降71.3%,任务得分稳定在0.753(vs K3的0.751),平均步骤数由23.8降至21.4。其中一家客户已将Ember-1投入正式生产。
商业与技术现状
Ember-1沿用Kimi K3在Fireworks平台的定价标准:输入$3.00/百万token、缓存输入$0.30/百万token、输出$15.00/百万token。全部成本节约源于token总量下降。按A/B测试数据推算,单任务输出成本从约$0.74降至$0.45。
目前,Ember-1仍属API-only研究预览阶段,未开放模型权重或训练细节。Fireworks强调其技术路径代表一种新型模型优化范式:以‘推理效率’为优化目标的后训练,而非依赖推理时配置调整。
编者观点
对中国AI企业而言,Ember-1提示了一条被低估的降本路径——在大模型商用落地初期,相比盲目堆算力或追求参数规模,针对特定场景对成熟开源模型实施高效后训练,可能更快实现推理成本与性能的最优平衡。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →