Cloudflare发布Clef系列决策模型:开源、可部署、输出结构化概率
Cloudflare正式推出两款开源决策模型Clef(27B)与Clef-flash(9B),专为结构化问答设计,输出类型化概率而非自由文本,兼容TypeSafe AI的Jev API。模型已上线Workers AI平台并开放Hugging Face权重,支持图像输入与64K上下文。在多项任务基准中显著超越Jev,但在知识密集型评测上仍落后。
开源决策模型:非聊天、强结构、可验证
Cloudflare Workers AI团队正式发布其首批自研AI模型——Clef与Clef-flash。二者并非通用大语言模型(LLM)或聊天机器人,而是专为结构化决策任务设计的「决策模型」(Decision Models)。其核心范式是:接收一个输入状态(含文本、JSON、图像甚至视频)及一份预定义的、带类型的问答模式(schema),直接返回每个合法答案对应的校准后概率值,全程不生成任何自由文本。两款模型均以Apache 2.0许可证开源,权重已发布至Hugging Face,并原生支持TypeSafe AI提出的Jev API(即「System One」接口标准),开发者仅需更换端点与模型名即可迁移。
功能边界:三类问题,零解析开销
与传统LLM逐token生成、需后处理解析不同,Clef系列严格限定输出空间。它支持三类标准化问题:
- noul(yes/no):返回“是”的概率;
- choice(单选):对命名选项分别输出概率,并附带整体置信度;
- score(评分):依据有序量表(如1–5分)返回概率加权得分。
在Workers AI平台上,单次请求最多可携带64个问题及4张图像,上下文窗口达65,536 tokens,显著优于Jev宣称的32K上限。
技术实现:视觉骨干+轻量联合头
Clef基于Qwen3.8-27B、Clef-flash基于Qwen3.5-9B进行后训练,完整保留其视觉编码器能力。推理分两阶段:首先由骨干模型执行一次prefill-only前向传播,提取输入与问题的整体表征;随后,一个小型专用Transformer——「联合schema头」(joint schema head)接收最终隐藏状态,通过路由机制将证据分配至各问题,支持字段间交叉注意力,并对所有选项进行联合打分,最终经每题softmax输出概率。训练时冻结骨干参数,仅优化该头部,并采用rank-256低秩适配器(LoRA)。损失函数融合标签平滑交叉熵与Brier分数(保障概率校准),另引入强化学习目标RLCD(Reinforcement Learning for Calibrated Decisions),对序数评分中的邻近正确选项给予部分奖励。
性能对比:任务导向优势明显,知识广度仍有差距
在Cloudflare自建的Decision Index 0.2.1短列表(10项基准)中,Clef在7项上排名第一。例如:
- BANKING77意图识别(macro-F1):Clef 94.20 vs Jev 79.74;
- CLINC150+OOS多领域分类:Clef 97.43 vs Jev 89.27;
- 家电指令理解(case exact):Clef-flash 97.73 vs Jev 52.27。
但Jev在知识密集型评测中保持领先:GPQA Diamond(78.3 vs 48.0)、MMLU-Pro(82.7 vs 65.9)、BBH(92.9 vs 73.7)。在TypeSafe AI内部工作流评估中,Clef在发票处理、客服响应、安全事件分类三项小幅胜出;Jev仅在智能体追踪可观测性(agent trace observability)一项领先。
部署与演进:即用服务+私有数据微调
模型可通过Workers AI binding(`env.AI.run()`)、REST API或AI Gateway调用。自托管方案已在单块H200 GPU(BF16精度)完成验证。Cloudflare同步宣布推出强化学习微调服务,初期面向其前线部署工程师开放,后续将提供自助式平台,整合AI Gateway、Workers AI、Containers与新Trainer组件,企业可通过设计合作伙伴申请接入。
编者观点
Clef系列标志着AI基础设施正从「通用生成」向「确定性决策」分叉演进——对国内企业而言,这提示:在风控、客服工单分类、合规审查等需高可解释性与低延迟响应的场景中,轻量化、开源、API标准化的决策模型可能比黑盒大模型更具落地性价比与治理可控性。