英伟达称Groq 3 LPX推理芯片速度超Cerebras四倍
结论前置 / TL;DR
英伟达宣布其Groq 3 LPX推理芯片已进入全量生产，并在Gemma-4 31B模型上实现3400 tokens/秒的推理速度，宣称是Cerebras方案的四倍。但对比前提是英伟达需部署至少64颗加速器，而Cerebras仅需1–2颗。该性能差异背后的实际能效与扩展性仍存疑问。
全量投产与性能宣称
英伟达已将其Groq 3 LPX推理专用芯片投入全量生产。官方数据显示，该芯片在运行Gemma-4 31B模型时达成3400 tokens/秒的推理吞吐，声称相较Cerebras当前方案快四倍。
硬件配置差异显著
据《The Register》援引信息，这一性能指标依赖于至少64颗Groq 3 LPX加速器协同工作；而Cerebras对应方案仅需1至2颗芯片即可完成同等任务。这意味着直接比较单芯片与多芯片系统的吞吐数值存在架构层面的不对等。
扩展性仍是未知数
报道指出，Groq 3 LPX架构在处理大规模混合专家（MoE）模型时的实际扩展效率尚未验证，其随模型规模增长的性能线性度仍属开放问题。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →