vLLM发布Decision 3.0：开源多模态决策模型家族

什么是Decision 3.0？

Decision 3.0是由vLLM Semantic Router团队发布的开源多模态决策模型系列，共5个规模：d3-lite（0.85B）、d3-nano（2.21B）、d3-mini（4.54B）、d3-flash（8.39B）和d3（26.09B）。所有模型均采用Apache-2.0许可证，可免费商用。与传统大语言模型不同，Decision 3.0不生成自然语言响应，而是接收状态输入（文本或JSON）、可选图像，并针对预定义的命名问题（如选择题、是非题、量表评分）同步返回每个答案的校准概率值。这种‘系统一’（System One）范式专为请求分类、智能路由与安全守门（guardrails）设计，避免了提示工程与后解析文本的开销。

技术架构与输入支持

全部模型均基于Qwen系列基础模型微调：d3（27B）基于Qwen3.8-27B，其余四款则基于Qwen3.5的0.8B、2B、4B和9B检查点。每个模型均集成专用视觉编码器——d3-lite含0.10B视觉参数，d3-nano与d3-mini为0.33B，d3-flash与d3为0.46B。支持PNG、JPEG、WebP格式图像，单图最高解析至1.6兆像素；所有问题共享全部图像输入，且每个问题独立执行一次前向传播。运行需transformers==5.17.0，启用flash-linear-attention可加速线性注意力层；加载时须设置trust_remote_code=True。

性能表现：内部评估与公开基准

在团队自建的Jev Decision Index 0.3.1评测板（对标TypeSafe的Jev决策系统）中，d3在文本子项得分为64.1，高于Perplexity Decider v1.1（62.8）与原始Jev（60.1）；在视觉子项得分为71.6，略超Perplexity Decider v1.1（70.6）。值得注意的是，Torchcast Decision 27B在公开评测套件中得分更高（65.1 vs d3的64.9）。尺寸效率优势显著：d3-flash（9B）得分为59.0，超过Decision 2.0的27B版本（55.9）；相比Decision 2.0，各尺寸模型在公开套件中提升幅度达+8.0（27B）至+15.1（0.8B）。细分来看，d3-mini（4B）与d3-flash（9B）同时领跑文本与视觉榜单；d3-lite（0.8B）文本第一但视觉第三（41.1），略逊于JPT-0.8B（42.1）；d3-nano（2B）视觉领先，但文本得分（35.8）低于LiquidAI d1-3B（40.1）。在具体任务上，d3在InfographicVQA（97.3）与Mind2Web（89.9）上表现强劲，但在MMMU-Pro（46.2）与Hateful Memes内容审核（44.6）上较弱。

推理速度与硬件适配

所有模型均在AMD Instinct MI325X GPU上训练与评测。单请求中位延迟如下（纯文本/含一张图像）：d3-nano为21.7ms/92.0ms；d3-lite为23.5ms/60.7ms；d3-mini为28.5ms/115.0ms；d3-flash为29.7ms/171.8ms；d3为84ms/342ms。对比显示，小模型在图像处理上具备明显延迟优势，而d3-flash在精度与速度间取得较好平衡。

横向对比：关键参数一览

与竞品相比，Decision 3.0全系支持文本、JSON与图像三模态输入，而Perplexity Decider v1.1和LiquidAI d1-3B仅支持部分模态；Decision 2.0虽支持文本与JSON，但未明确支持图像。上下文长度方面，Decision 3.0未公开披露，而Decision 2.0与Vega-27B均为32,768 tokens，Perplexity Decider v1.1为8,192 tokens。在自有评测卡中，d3文本决策指数（64.1）与视觉指数（71.6）均居首位；其单GPU文本推理中位延迟（84ms）高于LiquidAI d1-3B（9ms），但后者参数量仅3.12B，定位不同。

编者观点

Decision 3.0标志着AI决策模型正从‘生成式黑盒’转向‘确定性白盒’——中国企业若面向金融风控、政务审批、电商合规等强规则场景构建AI守门员系统，可优先评估其轻量化型号（如d3-flash）在自有业务数据上的微调效果，规避LLM输出不可控带来的治理风险。