细佬我食过几晚夜粥 (@euzen) 在 腾讯的Qwen3.8-27b加速 中发帖

先说结果,真的快了。在3090显卡上,快了近一倍,没做什么优化,最高近100t/s 
坏消息:显存占用高了很多,原来挤挤可以上下文开到153K,现在只能100K。 
抱抱面地址: tencent/Qwen3.8-27B-DSpine-b16 · Hugging Face 
GGUF: aj9o9/Qwen3.8-27B-DSpine-b16-GGUF · Hugging Face 
 [image]
 
 
Back to Top