章鱼烧帅哥 (@lwelinuxdo) 在 阶跃 Step 5 Preview 上线腾讯 WorkBuddy 限免 中发帖
该模型采用稀疏 MoE 混合专家架构,总参数量 600B、激活参数 27B,支持 100 万 Token 上下文窗口,原生支持文本与视觉输入。
[image]该模型采用稀疏 MoE 混合专家架构,总参数量 600B、激活参数 27B,支持 100 万 Token 上下文窗口,原生支持文本与视觉输入。
[image]