害你的猪 (@zhousp666)各种Qwen3.8-27B-GGUF量化版本,最后还是留下了unsloth最稳定,特别是超长上下文 中发帖

Qwen3.8-27B-UD-Q6_K_M.gguf版本用了1个多月了,上下拉到512K,目前是使用最稳定的。另外现在考虑要不要换成Q提升一下速度 
这两天又尝试了其他各种上榜的量化版本,吹得多快跑分多高,上下文一多就会变傻直接循环
 
 
Back to Top