TypeSafe AI发布专用决策模型Jev,聚焦AI智能体内部判断
TypeSafe AI推出首款System One模型Jev,专为AI智能体(Agent)内部高频、轻量级决策设计。它不生成文本或代码,而是对非结构化状态输入返回带校准概率的类型化判断,支持Choice/Score/Noul三类原语。官方称其推理速度达前沿大模型的193.6倍、成本仅1/444.6。
专注智能体内部判断的新型系统模型
上周,TypeSafe AI正式发布Jev——其首个System One模型。创始人Diogo Almeida曾就职于OpenAI,深度参与ChatGPT背后指令遵循(instruction-following)方向的研究。与通用大语言模型不同,Jev不用于聊天、编程或摘要等生成任务;它的核心能力是:接收非结构化状态(文本或JSON),并针对预定义的类型化问题,输出带校准概率与置信度的结构化决策结果。这一特性使其天然适配AI智能体运行循环(agent loop)中成千上万次微小但关键的判断场景,例如:调用哪个模型、某条命令是否安全、哪段检索内容最相关、当前任务是否真正完成。
三种原语支撑结构化决策
TypeSafe官方文档定义了Jev支持的三大基础判断原语:
- Choice:从给定选项列表中选择一项,返回每个选项的概率分布及整体置信度,最多支持255个选项;
- Score:依据有序评分标准(rubric)对输入状态打分,输出各等级概率及置信度;
- Noul:输出某一陈述为真的概率值(0至1之间)。
所有问题均在单次请求中并行评估,共享同一输入状态。Jev采用“面向校准决策的强化学习”(Reinforcement Learning for Calibrated Decisions, RLCD)进行训练,确保模型输出的置信度能真实反映实际准确率。
性能与成本优势基于实测工作流对比
TypeSafe宣称Jev在典型智能体工作流中实现193.6倍更快响应与444.6倍更低成本。这些数据源自其内部端到端工作流评测,并以GPT-6 Astra与Fable 5.1作为基准参照模型。公开数据显示:当前前沿大模型端到端延迟为3–329秒,而Jev稳定在70–500毫秒区间。其定价为$0.042/百万输入token,输出免费;对比模型则按输入价格约5倍计费输出token。需注意,该成本测算仅含模型调用本身,未计入人工复核、重试或升级处理等附加开销。
覆盖20类典型智能体决策场景
官网交互式演示页面列出了20种Jev可直接落地的智能体用例,涵盖客服工单分诊(ticket triage)、工具调用安全闸门(tool-call gate)、多模型路由(model router)、RAG注入筛查(injection screen)等。用户可通过下拉菜单选择具体场景,调节决策阈值(默认0.6),实时查看状态输入、问题定义、Jev输出概率及下游代码触发逻辑。此外,成本模拟面板支持动态调整日决策次数(3–7千次)、单次输入token数(100–5000)、LLM单价($0.2–$10/MTok)等参数,直观呈现月度支出差异。
编者观点
中国AI企业正加速从‘大模型能力堆砌’转向‘智能体工程化落地’,Jev所代表的‘专用决策层’模型路径,提示我们:在复杂Agent架构中,用轻量、高确定性、低成本的专用模型替代通用大模型执行高频判断任务,或是提升系统可靠性与商业可行性的关键突破口。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →