IBM发布Granite 4.2:开源企业级推理模型家族
IBM正式推出Granite 4.2系列开源大模型,含3B、8B、30B三种参数规模,首次引入原生链式推理能力与面向智能体的强化学习(Agentic RL)训练范式。所有模型采用Apache 2.0许可证,支持自由商用与本地部署。同步发布无LLM架构的470M参数Granite Speech 5.0 Turbo CTC语音识别模型。
原生推理架构:从指令跟随到显式思维链
Granite 4.2是IBM Granite系列首次以‘显式推理’为核心设计的模型家族,区别于此前版本侧重指令遵循的辅助定位。全部三个尺寸模型均支持输出完整思维链(Chain-of-Thought),并在推理接口中明确提供‘思考/非思考’切换开关及‘低开销模式’——后者可对简单问题自动分配极短的推理预算,兼顾效率与准确性。模型为纯解码器结构的稠密Transformer,未采用MoE或混合架构。
多阶段强化学习训练:Agentic RL仅限8B与30B
预训练基于约15万亿token从零开始;后续通过多阶段异步强化学习链进行后训练。该流程包含RLVR(推理引导价值回归)、技能增强模块,以及关键的Agentic RL模块——仅应用于8B和30B模型。在此模块中,模型在真实沙箱环境中学习编辑代码、操作终端、执行网络搜索等具身化任务,训练依托OpenHands、SWE-agent、Terminus-2等主流智能体框架。3B模型则仅接受基础RL与对齐训练,这一设计差异构成三者能力分化的主因。整个训练在CoreWeave提供的NVIDIA GB200 NVL72集群上完成,使用NeMo-RL与NeMo-Gym框架,并融合1万亿token由IBM CodeAlchemy生成的合成代码数据。
开放许可与灵活部署适配
全部语言模型均以Apache 2.0许可证发布,允许自由下载、微调及商业部署,无授权壁垒。部署场景高度分层:3B模型经GGUF量化(最低至Q4_K_M)后可在笔记本电脑运行,适配Ollama或LM Studio;8B模型面向单张现代GPU的中型企业团队;30B模型则针对拥有A100/H100算力或支持FP8/NVFP4推理(如vLLM)的大型企业,且满足监管严苛行业对本地化权重部署的需求。
性能表现与评测基准
IBM公布的评测结果显示,30B模型在软件工程权威基准SWE-Bench Verified上达57.00分,在终端操作基准Terminal-Bench 2.1上达29.24分;8B与30B在长上下文理解(RULER 128K)中分别取得71.41与81.38分。其余指标如MMLU-Pro(77.60)、GPQA(66.41)、AIME25(89.17)亦呈明显规模正相关。值得注意的是,τ³-bench与BFCL等强调推理与工具调用能力的评测中,8B已接近甚至小幅超越30B,印证其Agentic RL训练的有效性。
Granite Speech 5.0:轻量高效语音识别新范式
同步发布的Granite Speech 5.0 Turbo CTC为两个470M参数语音模型,彻底剥离LLM主干,采用纯连接时序分类(CTC)架构实现端到端语音转文本。在单张H200 GPU上实测RTFx吞吐量达12,600,约为当前Open ASR榜单领先方案的两倍。WebGPU实时演示已上线。
应用场景与行业覆盖
模型聚焦企业级落地:软件开发智能体、DevOps终端自动化、深度研究与搜索代理、超长文档RAG、结构化工具调用及高并发语音转写。目标行业涵盖软件与开发者工具、金融、医疗、电信、公共部门及客服中心——其中语音模型直指后者核心需求。
编者观点:Granite 4.2将‘可解释推理’与‘沙箱内具身训练’纳入开源模型标准能力栈,为中国企业构建自主可控的AI智能体基础设施提供了高兼容性、强合规性的新选项。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →