决策AI模型解析：Jev、GLiDE与GLiNER2.5-Decide对比

什么是决策AI模型？

决策AI模型是一类新型AI模型，其核心输出是结构化决策（如选项选择、数值评分、0–1真值概率），而非自由文本。用户输入一段带类型标注的问题（如‘从A/B/C中选一个’或‘该陈述为真的概率是多少’），模型直接返回可被代码直接分支调用的结果。该范式在TypeSafe AI结束两年隐身期、正式发布Jev后进入主流视野。TypeSafe将其称为‘系统一模型’（System One model），灵感源自丹尼尔·卡尼曼提出的快速、直觉式思维系统。发布仅三周内，Fastino Labs即推出两款竞品模型，多个开源项目也发布了Jev风格的复现版本。

Jev的技术机制

Jev接收一个‘状态’（字符串、数组或键值对集合）及一个或多个问题。根据TypeSafe官方文档，它支持三类基础操作：

• Choice：从预设列表中选出一项，并附带各选项的概率与置信度（最多支持255个选项）；
• Score：依据有序等级量表（如‘低/中/高’）对状态打分，同样返回概率与置信度；
• Noul（Bernoulli缩写）：输出某陈述为真的0–1概率。

所有问题均并行、独立地作用于同一状态，新增问题几乎不增加响应延迟。因完全不生成文本，TypeSafe称其无法产生类型错误。底层采用新型并行采样器架构，并引入名为‘面向校准决策的强化学习’（RLCD）的训练方法——区别于优化人类偏好的RLHF，RLCD旨在使模型输出的置信度与实际准确率严格校准。

性能与成本实测

Jev定价为每百万输入token 0.042美元，输出免费；上下文窗口达32K；端到端响应时间70–500毫秒。在TypeSafe自建的四任务工作流评测中（安全事件响应、智能体追踪可观测性、发票处理、客服分类），以GPT-6 Astra与Claude Fable 5.1高思维模式平均标注为基准：Jev平均准确率67.8%，单例成本0.0004美元、耗时0.4秒；Claude Sonnet 5同任务下准确率相同但成本高达0.1174美元、耗时78.1秒；当前最优配置（OpenAI ‘sol’）准确率74.1%，成本0.0836美元、耗时23.3秒。Jev在准确率持平Sonnet 5的前提下，成本降低99.7%、延迟缩短99.5%。

典型应用场景

决策模型适用于代码需直接分支执行的确定性判断场景：

• 智能体控制流：选择下一工具或子智能体；决定‘继续/重试/询问用户/终止’；按目标、复杂度或升级等级进行模型路由；
• 分类与分诊：工单路由、邮件分拣、意图识别、垃圾内容检测、标签建议、安全告警处置（如关闭/转人工/隔离）；
• 验证与安全：提示词/推理链/输出的防护栏评分、联合安全检查（如GLiNER2.5-Decide同步解码‘安全性’与‘危害类型’以防矛盾）、经Jev验证的级联流程（先用廉价模型起草，失败再升级）；
• 评估与可观测性：替代LLM-as-a-judge用于追踪评估；作为CI/CD流水线中的质量门禁；
• 搜索与数据处理：对100个BM25候选结果一次性并行重排序；低成本将海量数据批量转化为特征；上下文剪枝（预筛LLM调用所需上下文）；
• 实时交互应用：游戏AI（如Doom、Wikiracing演示）、亚秒级响应的UX交互。

使用边界提醒

决策模型不适用于需要生成文本摘要、解释性回答、精确算术运算、计数或日期计算的任务。TypeSafe Jev 1.13版‘锯齿度指南’（jaggedness guide）亦明确标注了此类限制。

> 编者观点：中国企业开发AI原生应用时，可优先在规则明确、需高频低延迟结构化判断的环节（如客服意图识别、风控策略路由、Agent工作流编排）引入决策模型，显著降低推理成本与延迟，避免为‘非生成性任务’过度消耗大模型资源。