Liquid AI发布LFM2.5-2.6B:端侧AI智能体模型
Liquid AI正式开源LFM2.5-2.6B——一款2.69B参数、支持128K上下文与工具调用的端侧AI智能体模型。该模型完全本地运行,无需联网,已开放权重并提供GGUF/MLX/ONNX等多格式支持,适配手机、PC、机器人等设备。
全栈端侧智能体:轻量但强于工具调用
Liquid AI近日发布LFM2.5-2.6B,一款专为端侧部署设计的AI智能体模型。它可在智能手机、笔记本电脑、台式机及机器人等设备上全程离线运行,自主规划任务、调用工具、执行多步骤工作流。模型总参数量为2.69B,含30层网络结构(其中22层为双门控短卷积块,8层为分组查询注意力块),上下文窗口达131,072 token,词表规模128,000,支持16种语言,纯文本输入。
训练与后训练:四阶段强化智能体能力
预训练阶段使用约34万亿token数据。词表扩展至128K通过原地扩展已有分词器实现,而非从头训练;上下文长度提升则通过专项中期训练完成。基础模型(LFM2.5-2.6B-Base)经四阶段后训练转化为智能体专用版本:第一阶段为两轮监督微调(SFT),数据量约为LFM2.5-8B-A1B的七倍;第二阶段为教师专业化训练,按领域(如金融、医疗)分别训练专家模型,并采用可验证奖励的强化学习;第三阶段为多领域在线策略蒸馏,学生模型在自身策略下采样,提示自动路由至对应领域教师;第四阶段为真实环境中的智能体强化学习(GRPO算法),集成Hermes Agent与OpenClaw等实际Agent框架进行闭环训练。
性能表现:小模型跑赢大模型
在多项基准测试中,LFM2.5-2.6B超越参数量近四倍的竞品:ToolSandbox(77.83 vs gemma-4-E4B-it的65.00、Qwen3.5-9B的76.44)、Multi-IF(80.07 vs 77.35和62.55)、IFStruct(85.49 vs 76.65和78.50)。仅在BFCLv4工具评测中略逊于Qwen3.5-9B(56.88 vs 60.13)。但在编程类任务(LiveCodeBenchv6)上仍存差距(59.41 vs Qwen3.5-9B的69.86),Liquid AI明确不推荐其用于编码或知识密集型任务。
部署就绪:全平台兼容与零边际成本
模型已在Hugging Face公开,采用lfm1.0开源协议。权重支持原生格式及GGUF、MLX、ONNX,首日即兼容llama.cpp、vLLM、SGLang与LM Studio。实测推理速度:Apple M5 Max芯片达220 token/s,普通手机约30 token/s,内存占用低于2.5GB;单颗NVIDIA H100 SXM5 GPU每日可服务约13亿token请求。企业与OEM厂商可通过GGUF/ONNX批量部署至终端设备集群;LoRA微调支持TRL与Unsloth框架。
应用场景:聚焦高合规性垂直领域
Liquid AI将目标行业锁定在对数据主权与离线能力要求严苛的领域:汽车、消费电子、工业机器人、医疗健康、金融服务、电商及国防。典型应用包括:端侧语音/视觉助手、128K长文档离线分类与摘要、表单与发票结构化提取、机器人自然语言指令解析、以及持续后台运行的低成本代理服务(无逐token计费)。
编者观点
该模型凸显‘端侧智能体’正从概念走向量产——中国企业若面向车载系统、工业终端或医疗设备开发AI功能,可优先评估此类开箱即用、合规可控的轻量化智能体方案,规避云端依赖与API调用风险。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →