GLM-5.3-Flash与Qwen3.8-Flash-Next架构惊人趋同
本周,智谱AI与阿里巴巴通义实验室几乎同步发布两款新型开源大模型:GLM-5.3-Flash(320B参数)与Qwen3.8-Flash-Next(125B+51B)。二者虽独立研发,却在核心架构设计上高度一致——均采用3:1线性/全注意力混合结构、2048-token压缩索引机制及四路门控残差流。该现象揭示中国头部AI实验室在高效长上下文建模路径上的自发共识。
两款模型几乎同日发布
本周内,两家中国领先AI实验室在不到24小时内先后开源了新一代高效大模型:智谱AI(Z.ai)发布GLM-5.3-Flash,阿里巴巴通义实验室发布Qwen3.8-Flash-Next。前者是GLM-5系列首个原生多模态MoE模型,参数量达3200亿,每token仅激活180亿参数;后者为Qwen4架构的预览版,主模型1250亿参数,另含510亿n-gram嵌入表,每token激活60亿参数。二者均面向超长上下文优化,且全部权重开源(GLM-5.3-Flash采用MIT许可证发布于Hugging Face)。
GLM-5.3-Flash基于30万亿token多模态语料训练,原生支持100万token上下文窗口,在OpenRouter匿名测试中以“Ox Alpha”之名成为当周最热模型。官方称其在多项基准测试中性能超越GLM-5.2,成本仅为后者十分之一,并在编程与智能体任务上逼近Claude Opus 4.8。定价为每百万输入token 0.15美元、输出token 0.50美元。Qwen3.8-Flash-Next则强调训练效率提升,据称仅需Qwen3.7-Plus约九分之一的算力,技术报告题为《Qwen3.8-Next架构设计:评估、效率与训练稳定性》。
趋同点一:3:1线性注意力与全注意力混合堆叠
两模型均摒弃传统全注意力主导结构,转向高性价比混合范式。GLM-5.3-Flash共45层,其中34层为线性注意力层、11层为全注意力层,严格遵循3:1比例;Qwen3.8-Flash-Next共48层,按“3层Gated DeltaNet(GDN)+1层Qwen稀疏注意力(QSA)”循环堆叠,同样达成3:1配比。线性层通过固定尺寸循环状态压缩历史信息,使单token计算量不随上下文增长——GLM采用Kimi Delta Attention(KDA),Qwen采用自研Gated DeltaNet(GDN),二者虽在门控粒度(通道级vs头级)不同,但同属delta-rule家族,承担相同功能。剩余约25%的全注意力层则负责精准长程检索:GLM使用NoPE多头潜在注意力(MLA),Qwen采用分组查询注意力(GQA)变体QSA,KV缓存实际仅在此类层中存在。
趋同点二:4倍压缩+2048-token索引裁剪
为控制全注意力层开销,两模型均引入轻量级学习型索引器(indexer),对长上下文进行预筛选。GLM-5.3-Flash采用32头“闪电索引器”,结合DeepSeek DSA思路,执行top-2048选择;为应对百万token场景,智谱进一步提出IndexPool机制——将4个索引器key向量加权池化为1个再评分。Qwen3.8-Flash-Next的QSA则以微块(micro-block)为单位操作:对每4-token块打分,保留top-512块(即2048 tokens)。二者实质均实现“4倍压缩后评分,最终保留2048 tokens”的统一策略。Qwen实测显示,QSA在百万token场景下可带来最高7.6倍prefill与4.9倍解码加速;而GLM-5.3-Flash相比完整版GLM-5.3,注意力计算量降低约3倍,KV缓存体积缩减4.4倍,同时将活跃参数减半(18B→32B)、层数减半(45→92)。
趋同点三:四路门控残差流替代单一流
两模型均突破Transformer自2017年以来沿用的单一残差流范式,转而采用四路并行残差分支。GLM-5.3-Flash集成DeepSeek提出的Manifold-Constrained Hyper-Connections(mHC),在发布权重中明确配置为4分支;Qwen3.8-Flash-Next则自研Gated Residual机制,通过逐元素数据依赖读门与每分支标量写门,动态调控信息在4条拓宽通路间的流动。这一设计显著增强模型内部信息路由能力,亦成为二者架构趋同的关键标志之一。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →