英伟达开源Nemotron 3.5 Lightning：小模型高吞吐
结论前置 / TL;DR
英伟达发布开源权重的Nemotron 3.5 Lightning大模型，仅含36亿活跃参数，体积仅为OpenAI gpt-oss-120b的四分之一，却在Intelligence Index基准上表现相当。其推理速度达近670 tokens/秒，为当前对比中最快模型。
开源轻量模型挑战性能边界
英伟达推出开源权重大模型Nemotron 3.5 Lightning，该模型拥有36亿活跃参数，显著小于同级竞品。在Intelligence Index综合评测中，其能力与OpenAI发布的gpt-oss-120b模型基本持平，尽管后者参数量约为前者的四倍。
效率优先的设计取向
Nemotron 3.5 Lightning在推理速度上表现突出，实测达近670 tokens/秒，成为当前公开对比中最快的模型之一。这一结果印证了英伟达当前策略重心：不再单纯追求参数规模，而是通过架构优化与工程调优，在保持竞争力的同时大幅提升推理效率与部署灵活性。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →