@liuhua 在 Qwen3.8-Flash-Next 部署细节(Strata + GSQ-RCO IQ3_XXS,单卡 16 GB) 中发帖

1. 模型




项目
值




模型
Qwen3.8-Flash-Next(Qwen 官方,2026-08-26)


结构
MoE:主模型 125B 总参 / 每 token 激活 6B;另有 51B N-gram embedding 表 + 约 4B MTP 头


层
48 层:36 层 GDN(线性注意力)+ 12 层 QSA(只有这 12 层需要 KV cache)


专家
每层 512 个 routed experts(48 × 512 = 24576),每 token 激活 10 个 + 1 个 shared


原生上下文
262144


推理
必须思考的推理模型;模板档位 xhigh(默认)/ medium / low,另可关闭思考


许可
基座 qwen-community-1.0(HF 上量化版元数据写 Apache-2.0,正文说继承基座许可,商用前自行...
 
 
Back to Top