996评测了qwen3.8-27B 3个不同的社区版本(3bit - 4bit量化)以鹈鹕、北极熊为例。 中发帖

一、本人硬件:
RTX3090 24G + DDR5 32G + i5-14600K,如下图所示: 
 [image] 
二、测评模型:
1、unsloth/Qwen3.8-27B-GGUF/Qwen3.8-27B-Q4_K_M.gguf 
(一个4bit量化版本,unsloth团队的量化质量极高。) 
2、JonathanColetti/Qwen3.8-27B-Uncensored-GGUF/Qwen3.8-27B-Uncensored-Q4_K_M.gguf 
(一个未审查4bit量化版本,社区热度极高) 
3、zerodigest/Qwen3.8-27B-Uncensored-YMQ-MTP-GGUF/Qwen3.8-27B-Uncensored-YMQ-M.gguf 
(一个未审查3bit量化版本,该作者声称此3bit能达到4bit的水准。) 
三、思考程度:
qwen3.8-27...
 
 
Back to Top