Cohere发布Embed 5嵌入模型家族:Pro与Fast双轨设计
Cohere正式推出Embed 5嵌入模型家族,包含面向高精度检索的Embed 5 Pro和面向低延迟查询的Embed 5 Fast两个版本。二者共享同一嵌入空间,支持文本、图像及图文融合输入,覆盖100+语言、最长128K上下文。已在Cohere API、Microsoft Foundry及Amazon SageMaker全面商用。
新一代企业级嵌入模型上线
Cohere正式发布Embed 5嵌入模型家族,专为企业搜索、检索增强生成(RAG)及智能体驱动的检索场景设计。该模型分为两个层级:Embed 5 Pro聚焦最高检索质量;Embed 5 Fast则优化实时查询路径的延迟与成本。两者均支持纯文本、纯图像,以及文本与图像元数据融合输入,并原生支持100多种语言,最大上下文长度达128K tokens。
关键架构创新在于:Pro与Fast共享同一嵌入空间。这意味着用户可用Pro构建索引,再用Fast执行查询——无需重复索引,显著提升系统灵活性与资源效率。目前,两款模型均已开放通用访问,支持Cohere API、Model Vault、Microsoft Foundry及Amazon SageMaker平台部署;私有VPC或本地化部署则通过vLLM实现。
技术规格与定价细节
API模型ID分别为`embed-v5.0-pro`与`embed-v5.0-fast`。两模型均支持6种输出维度(2048/1536/1024/768/512/256),默认为2048维;向量格式可选float32、int8或二进制(binary)。文本嵌入定价为:Pro $0.12/百万token,Fast $0.08/百万token;图像输入统一为$0.40/百万token。值得注意的是,Embed 5可直接对页面图像(如扫描件、幻灯片、原理图、图表)生成嵌入,亦支持将图像与其OCR文本或结构化元数据融合为单一向量,弥补纯文本提取导致的信息损失。
双模协同:一个索引,两种查询路径
Cohere在40个开发数据集上完成全组合评测。以Pro索引+Pro查询为基准(归一化为100),Pro索引+Fast查询得分为98.4;全Fast方案(Fast索引+Fast查询)为96.6。官方推荐模式为“Pro建索引 + Fast查检索”,但要求索引与查询使用相同输出维度。该设计直指AI智能体工作负载痛点——单次任务常触发数十次检索,查询延迟呈叠加效应。实测显示,Fast吞吐达377.3文档/秒,显著高于Pro的159.7文档/秒。
多维度基准测试表现
在ViDoRe V3基准中,Embed 5 Pro平均得分为85.8,较Embed 4提升8.8分;Fast为84.5。对比竞品:Voyage 4 Large为83.7,Gemini Embedding 2为83.2,OpenAI text-embedding-3-large为75.5。在Cohere自建PDF解析测试集上,Pro以84.8领先Voyage 4 Large(83.6)。金融领域表现尤为突出:Pro在FinanceBench(80.1)、FinQA(90.0)和ViDoRe V3 Finance(85.0)三项中均居首位;Fast在三者中均列第二。多语言方面结果分化:Pro在欧洲语言平均分(77)领先,但Gemini Embedding 2在Cohere评测表所列其余10种语言中的9种(含日语、阿拉伯语、印地语、泰卢固语)胜出。
需特别说明的是,多数得分基于Cohere新提出的RCP-nDCG@10指标,其本质是对固定候选集重排序,更侧重评估重排质量而非首阶段召回能力。Cohere已开源评测代码,但独立第三方复现结果尚未公布。
大规模存储成本优化
Embed 5采用Matryoshka表示学习与低精度输出技术大幅压缩存储开销:2048维float32向量占8 KB,1024维int8仅需1 KB,256维二进制向量仅32字节。按1亿文本块估算,原始存储从约819 GB降至3.2 GB。Cohere推荐1024维int8为默认配置,称其在接近全精度质量的同时实现极致性价比。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →