TypeSafe AI发布Jev:首个面向软件调用的‘系统一模型’
TypeSafe AI推出新型AI模型Jev,不生成文本,而是针对输入状态返回带概率的结构化决策(Choice/Score/Noul),专为代码直接调用设计。其API已开放早期试用,宣称速度达GPT-5.6 Terra的193倍、成本低444倍,但基准测试由公司内部完成且未公开模型参数与架构。
‘对话人类’之后,是‘对话软件’
2022年ChatGPT开启了AI与人对话的时代;TypeSafe AI联合创始人认为,下一个关键拐点是AI与软件系统直接对话。为此,该公司正式发布Jev——一个基于Transformer、但并非大语言模型(LLM)的新型推理系统。Jev不生成自然语言文本,也不支持聊天交互;它接收结构化状态(state)和类型明确的问题,直接输出可被程序分支逻辑(if/else)消费的带置信度的结构化答案。
什么是‘系统一模型’?
名称源自丹尼尔·卡尼曼提出的‘系统一(直觉)/系统二(推理)’认知双轨理论。TypeSafe指出,当前主流RLHF调优的LLM过度适配人类偏好,导致幻觉、模式坍塌与过度自信,迫使人类持续介入闭环。Jev则采用全新技术栈:定制化架构(未公开细节)、并行采样器,以及名为‘面向校准决策的强化学习’(RLCD)的新训练范式,目标是让输出概率分布真实反映不确定性。
API设计:极简、强类型、并行化
Jev仅提供一个统一端点:`POST https://api.typesafe.ai/v1/systemone`。请求体包含`state`、`model`标识及一个问题映射(map of questions)。官方定义三类原语问题:
- Choice:从预设列表中单选,返回选项、各选项概率及整体置信度;
- Score:在有序等级(如‘低/中/高’)上打分,返回等级、概率分布与置信度;
- Noul:判断陈述真假,返回0–1区间概率值(‘Noul’即‘No/Yes’+‘Uncertainty’的合成词)。
所有问题在相同状态上并行且相互隔离执行,新增问题几乎不增加响应延迟。Choice最多支持255个选项。Python SDK(`pip install typesafe-sdk`)与JavaScript SDK(`@typesafe-ai/sdk`)均已发布,并提供cURL示例及Claude Code插件支持。
置信度:决策可信度的核心指标
每个Choice或Score答案均附带0–1范围的置信度值,由概率分布的集中程度计算得出——例如某次billing选项概率0.84,technical为0.159,则置信度仅为0.596。官方建议按错误代价设定三级响应策略:高置信度自动执行;中置信度人工复核;低置信度交由人类兜底。
性能与定价:激进宣称背后的限定条件
Jev定价为$42/十亿输入token;对比称现有LLM为$0.20–$10/百万token。在其演示中,Jev耗时0.114秒、花费$0.000081完成任务;GPT-5.6 Terra耗时8.566秒、花费$0.013880,TypeSafe据此宣称Jev快193.6倍、便宜444.6倍。但需注意:该基准测试使用GPT-6 Astra与Fable 5.1的平均结果作参考答案;工作流由TypeSafe自身能力团队编写;公司亦坦承‘无法证明价格未受补贴’;所谓‘零幻觉’仅指输出严格符合预定义schema,不保证答案事实正确性。
开发者实测:多场景快速落地
上线数日内,社区已涌现多个应用案例:Vercel CEO验证其在命令安全场景下p95延迟比GPT Luna低18倍;Bryo AI发现Gemini准确率略高但成本高10–20倍;Browser Use实现7.1秒完成Zürich-London航班搜索;Droidrun在真实Android设备上以21秒执行9步Uber操作(未完成下单);jevmeter以约$0.05成本完成整场辩论逐句评分;Steve Krouse的Typewriter工具支持边打字边实时更新16项判断;Jev还成功运行《星际争霸》首战任务及劫案游戏‘heist-one’中的守卫AI;jev-guard可对每个工具调用实时判定‘拒绝/询问/允许’;pg-jev为PostgreSQL添加自然语言过滤,HA-Jev将答案转为Home Assistant实体。
编者观点
中国AI基础设施厂商可关注‘系统一模型’所代表的范式迁移——当AI从‘内容生成器’转向‘可编程决策引擎’,对低延迟、高确定性、强类型接口的需求将重塑模型部署、评测与商业化路径。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。