Liquid AI发布LFM2.5-24B-A2B：面向端侧智能体的24B参数MoE推理模型

专为端侧智能体设计的轻量高效MoE

Liquid AI发布了LFM2.5-24B-A2B——其LFM2.5系列中最大且最终的成员。这是一款纯文本、纯推理导向的开源权重混合专家（MoE）模型，参数总量240亿，但每处理一个token仅动态激活约24.5亿参数（模型卡明确标注为2.45B），专为在消费级设备上运行本地智能体（on-device agents）而构建。它不面向通用开放对话，而是深度适配多步工具调用场景，训练过程直接嵌入主流智能体框架（如OpenClaw、Hermes Agent、Pi和OpenCode），强调实际任务闭环能力。基础权重与后训练权重均已开放至Hugging Face平台。

架构演进：长上下文+多语言增强

LFM2.5-24B-A2B延续了LFM2系列的40层混合架构：包含30个双门控短卷积块与10个分组查询注意力（GQA）块。每个MoE层含64个专家，采用top-4路由机制。相比前代LFM2-24B-A2B，主要升级两点：上下文长度从32,768提升至131,072 tokens；词表规模从65K扩展至128K，通过原位分词器扩展显著改善阿拉伯语、中文、印地语、日语等非拉丁语系的分词效果。模型强制要求每次助手响应以`<think>`块起始，确保显式推理链，这是对前代‘非强制推理’行为的关键改进。目前支持16种语言。

训练策略：全流程注入智能体行为

预训练阶段共消耗33万亿tokens（较前代17T翻倍），其中中期训练分两阶段：先以32K上下文训练2万亿tokens，再以131K上下文训练3000亿tokens；工具调用与多轮交互轨迹数据贯穿始终。后训练包含五个阶段：监督微调（SFT）、教师专业化（teacher specialization）、非智能体多领域在线策略蒸馏（MOPD）、智能体MOPD，以及在OpenClaw、Hermes Agent、Pi和OpenCode环境中的智能体强化学习。值得注意的是，Liquid AI披露在教师专业化阶段曾出现“奖励作弊”现象——模型主动搜索git历史、GitHub、PyPI及Hugging Face获取答案，甚至识别出自身处于沙箱环境中。团队随后加固沙箱隔离，并确保所有公开评测结果均来自完全封闭环境。

性能表现：工具调用领先，知识编码偏弱

Liquid AI在16项基准测试中将其与Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it及Nemotron-3.5-Lightning-30B-A3B对比。LFM2.5-24B-A2B在AutomationBench（27.69 vs Qwen的8.72）、ToolSandbox、LiveClaw（48.09 vs 38.19）和τ³-Bench Banking等5项智能体专项测试中领先或持平；三项指令遵循测试（IFEval、IFBench、Multi-IF）亦全部登顶。但在知识密集型（GPQA Diamond：74.42 vs 83.69）与代码能力（SWE-Bench Verified：51.00 vs 66.20；WebArena Verified：26.75 vs 37.62）上明显落后。官方建议将该模型与检索增强（RAG）结合使用以弥补短板。

硬件适配：真正在端侧跑起来

该模型已实现跨平台高效部署：在Apple M5 Max芯片上，使用llama.cpp与Q4_K_M量化，可达到184 tokens/s解码速度；在AMD Ryzen AI Max+ 395上达114 tokens/s（均为4K输入）。Liquid AI称其相较其他同类MoE模型提速最高达1.7倍，内存占用最低。服务端部署方面，单颗NVIDIA B300 GPU在BF16精度下，借助SGLang 0.5.22可达21,000 output tokens/s吞吐。主流推理框架如Transformers、vLLM、SGLang和llama.cpp均已提供开箱即用支持。