TypeSafe AI发布首个System One模型Jev:专注类型安全决策的AI新范式
TypeSafe AI推出首款System One模型Jev,不生成文本,而是接收程序状态与结构化问题,直接返回带置信度的类型化决策(Choice/Score/Noul)。教程演示其Python SDK集成、批量调用优化、置信度校准、函数式路由等工程实践,并强调生产级特性如Pydantic响应、异步扇出与计费账本。
Jev:首个System One模型,告别文本生成
TypeSafe AI正式发布其首款System One模型Jev。与主流大语言模型不同,Jev完全不生成自由文本——它专为程序内嵌决策而设计。开发者向其传入一段结构化的程序状态(如工单JSON)和一组强类型问题(typed questions),Jev即刻返回结构清晰的决策结果:包括分类选择(Choice)、量表评分(Score)和二元判断(Noul),每个结果均附带可编程的置信度分数与概率值,供代码直接分支执行。
开箱即用:SDK安装与API密钥管理
教程首先通过pip安装官方Python SDK(`typesafe-sdk==0.7.0`),并提供健壮的API密钥加载逻辑:优先读取环境变量`TYPESAFE_API_KEY`,其次尝试Google Colab Secrets,最后回退至隐藏控制台输入,确保密钥永不暴露于笔记本中。`TypeSafeClient`自动识别该密钥,并默认指向`jev-latest`别名。调用`client.models.list()`可列出当前密钥可用的所有模型名称及发布日期,体现版本可控性。
一次调用,三类原语:Choice、Score与Noul协同工作
教程以一个客户工单(Ticket)为示例状态,一次性提交四类问题:
- `department`:使用`Choice`原语,要求从“billing”“technical”“sales”三类中选出最适配处理团队,并附带每类的语义说明;
- `frustration`:使用`Score`原语,基于首条客户消息文本,在三级情绪量表(Calm / Frustrated / Very angry)上打分;
- `refund_requested`与`policy_supports`:均使用`Noul`原语(即Yes/No/Unknown三态判断),分别判定客户是否明确索要退款、以及当前退款政策是否覆盖该情形。
返回结果中,每个字段均含`.choice`、`.score`或`.yes_prob`等属性,且统一携带`.confidence`(经内部校准的标量值),开发者可据此设置阈值实现置信度门控路由。
工程化实践:性能、计费与生产就绪设计
教程深入构建生产就绪模式:定义轻量`ask()`辅助函数,自动记录每次调用耗时与token用量,并累积至全局`LEDGER`字典,最终可精确计算成本(输入token按$0.042/百万计费,输出免费);实测显示,将10个问题批量合并为单次API调用,相较10次独立调用显著降低延迟与开销;进一步演示了典型模式:基于置信度的动态路由、代码内维护权重的复合评分、类型安全的函数调用封装,以及符合模型能力边界的计数逻辑。最后,完整呈现生产栈:使用Pydantic定义强类型响应模型、`asyncio`驱动异步并发调用、内置重试策略、类型化错误处理,以及贯穿全链路的实时计费账本。
编者观点:中国企业可关注「决策型AI」在BPM与规则引擎中的落地潜力,避开通用大模型幻觉风险,转向高确定性、可审计、易集成的专用智能体架构。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →