AWS Strands Labs开源决策模型Strands Decider 2B

专注决策，拒绝生成

Strands Decider 2B是AWS Strands Labs推出的开源决策专用模型，明确区别于通用大语言模型：它不生成自由文本，而是针对给定状态（state）和结构化问题，输出三类确定性结果——从N个选项中择一（choice）、输出0–1区间内的是/否概率（noul），或在有序量表上给出带校准置信度的分数（score）。所有输出均严格限定于预设选项范围，并附带可解释的置信估计。

架构精简：LLM的‘去语言建模’改造

该模型基于Qwen3.5-2B-Base构建，但移除了原始语言建模（LM）头，代之以一个仅含约100万参数的轻量级‘指针头’（pointer head）。推理时，模型仅需一次前向传播：将<answer>位置的隐藏状态与各选项末尾token的隐藏状态进行比对，直接得出结果，无需自回归解码循环。主干网络采用rank-16 LoRA微调，指针头以fp32精度运行；选项集合由请求动态提供，理论上不限制选项数量。当前发布版本为v19。

性能与部署：低延迟、真开源、需自建防护

在第三方基准JevBench v1公开测试集（231任务）上，v19版本准确率达72.3%（167/231），Brier分数0.342，预期校准误差（ECE）仅0.052，显示其置信度高度可靠——当输出置信度≥0.9时，实际正确率约95%。在RTX 3090上中位延迟115ms（p95为299ms），M3 Pro Mac上为153ms（≤300 tokens，预热后）。模型权重已上传Hugging Face，支持`pip install strands-decider`一键安装CLI工具与HTTP服务端；但默认服务绑定127.0.0.1且无认证，生产环境需自行添加鉴权层。目前尚无托管推理服务商支持该模型。

对比格局：开放性与实测表现并重

在JevBench v1.4.2榜单（2B参数组，共33模型）中，v19位列第3；若排除3个略超2B的模型，则稳居第1。横向对比显示：Strands Decider 2B（v19）与Jev 1.13.0、Mapika decider-2b、FlyMy.AI Decision 2B同属决策模型赛道，但Strands是唯一同时开源全部权重、完整训练配方、数据清单及代码的项目（Apache-2.0协议）。其JevBench准确率（0.723）略低于Mapika最新v11版（0.753），但显著优于Jev（0.710）；而开放性与可复现性构成核心差异化优势。

落地场景：做AI系统的‘理性守门人’

团队已验证其在模型路由、工具选择、论据核查、任务分诊、安全护栏（guardrails）、评估打分及混合智能体中的价值。典型用例是嵌入混合Agent架构：LLM负责复杂推理，Decider则高效处理规则化、确定性高的子任务。例如，在Strands Agent中，调用天气工具前，Decider通过两个yes/no问题实时校验——用户陈述是否支撑参数？当前调用是否过早？若城市信息为LLM猜测，则触发用户确认流程。CLI示例显示，对用户查询‘Help! My payouts have been failing for 3 days!’，模型以0.768置信度将其路由至Billing模块。

> 编者观点：Strands Decider 2B代表AI工程化新范式——将‘决策’从通用生成能力中解耦，以极小代价换取高确定性、低延迟与强可控性。对中国企业而言，这提示了一条务实路径：在垂直场景中，不必盲目追逐大模型参数规模，而可聚焦于轻量、开源、可审计的专用决策组件，快速构建安全、高效、合规的AI系统内核。