Liquid AI发布开源决策模型d1-3B与d1-omni-600M
Liquid AI正式开源其d1系列多模态决策模型:d1-3B(3.12B参数,支持文本+图像)和d1-omni-600M(587M参数,支持文本+图像或文本+音频)。二者均不生成输出token,单次前向传播即返回结构化概率答案,专为NVIDIA全栈实时推理优化,已上架Hugging Face并获llama.cpp原生支持。
开源发布:零token输出的多模态决策模型
Liquid AI近日发布Open d1系列两个开源权重模型——d1-3B与d1-omni-600M,隶属其新型「决策模型」(decision model)产品线。与传统大语言模型不同,二者不生成文本,而是针对预定义问题集,对同一输入状态(state)进行单次前向传播,直接输出带类型标注的校准概率结果,且明确报告`output_tokens: 0`。模型已开放下载,托管于Hugging Face,兼容Transformers库,并提供开箱即用的llama.cpp支持。商业使用受LFM Open License v1.0约束:年营收低于1000万美元的企业可免费使用。
决策模型的本质:从生成到判定
Liquid AI将「决策模型」明确定义为:接收一个状态(如用户消息、截图、语音片段)及一组命名问题(如“是否应退款?”“归属哪个支持团队?”“紧急程度如何?”),一次性读取全部输入,直接返回每个问题对应选项的完整概率分布。其支持三类问题:`noul`(二元判断,输出P(yes));`choice`(多选一,输出各选项概率);`score`(在2–10级有序量表上输出概率加权位置)。多个问题可共享同一输入状态,显著提升推理效率。官方明确指出,d1系列并非聊天模型,不适用于自由对话场景,而专精于路由、内容审核、意图分类、重排序、LLM-as-a-judge打分、智能体安全护栏及视觉检测等确定性任务。
架构设计:轻量化与多模态融合
d1-3B含3.12B参数,基于LFM2.5-VL-3B(纯解码器视觉语言模型)构建:先将LFM2.5-2.6B文本主干权重与该VL模型平均,再经多轮不同种子与数据配比的微调,最终融合得到。其采用400M参数SigLIP2 NaFlex视觉编码器,上下文长度达32,768 token。实验表明,长输入处理、答案选项随机排序及消除数据捷径(data shortcuts)的效果,远超复杂训练技巧。
d1-omni-600M含587M参数,基于LFM2.5-Encoder-350M双向编码器架构,包含381M共享主干与决策头、94M视觉编码器及112M音频编码器(17层FastConformer)。上下文为16,384 token,音频输入上限30秒,且单次请求仅支持图像或音频之一(不可同时)。音频训练数据限定为英语人机交互指令。
性能与部署实测:边缘实时可用
在Decision Index v0.2.1基准中,d1-3B得分为48.57,超越所有10B以下模型,并小幅领先Decider 35B-A3B(47.11),仅次于Winnow-12B(50.02);在Tools与Arts子项中位列第一。d1-omni-600M在Civil Comments(95.8)与PAWS-X(79.5)上表现最佳。硬件实测显示:在RTX 4090上单问题端到端延迟仅8ms(启用`model.compile(mode="reduce-overhead")`),Jetson AGX Thor为16ms,Orin Nano为50ms;三问题并发仅增加4ms延迟,验证其高吞吐低延迟特性。NVIDIA Jetson AI Lab已同步上线d1-3B部署指南。
应用场景:从客服工单到边缘视觉检测
典型用例包括:支持工单自动分流——单次调用即可同步完成退款判定、责任团队识别与紧急度评分;Jetson AGX Thor上35ms内完成384px图像分析,支持实时摄像头帧级内容审核与手势控制;d1-omni-600M可在资源受限设备上直接解析30秒语音+文本输入,输出用户意图或主题,适用于语音命令路由与智能体执行前的安全校验。
编者观点
对中国AI初创企业与边缘计算厂商而言,d1系列揭示了一条差异化路径:放弃通用生成能力,聚焦垂直场景的「判定即服务」(Decision-as-a-Service),通过结构化输出、零token解析与全栈硬件协同优化,在实时性、可靠性与部署成本间取得新平衡。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →