Mistral发布1.05万亿参数多模态MoE模型Le Chonk
Mistral AI于2026年10月6日发布Mistral Large 4('Le Chonk')公开预览版:一款总参数达1.05万亿、每token激活490亿参数的细粒度混合专家多模态模型,原生支持图像输入与100万token上下文窗口,训练使用3800块NVIDIA Grace Blackwell GPU。模型权重暂未开源,预计10月底发布。
模型发布与核心规格
Mistral AI于2026年10月6日正式发布Mistral Large 4(ML4),内部代号'Le Chonk',作为公开预览版本上线。该模型为细粒度混合专家(MoE)架构,总参数量达1.05万亿,每token仅激活约490亿参数;配备16亿参数视觉编码器,原生支持图像输入;上下文窗口扩展至100万token。模型完全从零训练,耗时数月,全部算力由Mistral自建的欧洲数据中心提供,共调用3800块NVIDIA Grace Blackwell GPU。
架构与训练细节
ML4是兼具指令遵循与推理能力的混合专家模型,首次在Mistral产品线中实现图像输入的端到端原生支持。其稀疏激活机制使约95.3%的参数在单次推理中保持静默,仅4.7%权重参与计算——这使其在保持超大规模的同时,推理成本可控。但需注意:全部1.05万亿参数仍需驻留内存,因此硬件部署门槛依然极高。目前官方尚未披露专家数量、top-k路由策略及各层专家分布等关键架构细节,这些信息将随10月底发布的模型权重一并公开。训练数据覆盖160多种语言,包含全部欧盟官方语言。
性能表现:强项在网络安全与安全对齐
ML4在网络安全任务中表现突出:Cybench基准得分93%,CyberGym-E2E达82%,位列Artificial Analysis Cyber Index全球前五。Mistral特别指出,多个闭源前沿模型在CyberGym-E2E上得分接近零,原因在于其系统级拒绝执行漏洞复现类任务——而此类操作恰是防御性安全研究的标准实践。在智能体编程(agentic coding)方面,ML4在DeepSWE v1.1、SWE-Atlas-QnA和Terminal-Bench 4.0上分别取得61.7%、59.4%和28.3%成绩,综合Artificial Analysis Coding Agent Index为49.8%;但该评测系Mistral私有测试,尚未经公开评测框架验证。盲测人类评估(Surge AI执行)显示,专业标注员给予ML4 Preview 3.74/5分,在参评5款模型中排名第二,仅次于Claude Opus 5(4.22),高于GLM-5.3(3.60)与Kimi K3(3.59)。安全评测方面,ML4在Lakera B3对抗攻击基准中抵御93.3%攻击,在KORABench上获1.691/2.0分。
开放生态与当前可用性
ML4预览API已开放,定价为每百万输入token 1.36美元、输出token 4.18美元;缓存输入仅0.14美元/百万token,显著优化长上下文智能体循环成本。API支持函数调用、结构化输出、文档问答、批量请求,以及Agents与Conversations专用端点。但模型权重尚未开源,预计2026年10月底正式发布,当前无法本地部署。对比主要开源竞品(DeepSeek V4 Pro、Kimi K3、GLM-5.3),ML4在原生多模态支持与API性价比上具备差异化优势,但总参数量与部分竞品相比略低,且权重开放时间最晚。
编者观点
ML4的发布凸显欧洲AI力量在超大规模开源模型赛道的实质性突破,其聚焦网络安全等高价值垂直场景的性能设计,为中国企业开发行业专属大模型提供了‘任务导向型架构’的新思路——即不盲目堆叠参数,而以稀疏激活+多模态原生+领域强化训练组合提升实际任务效能。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →