@YAOHUO 在 奉劝买macmini 理由是为了自己部署模型的人早点放弃 中发帖

96G显存的NVIDIA RTX PRO 6000 部署GLM-5.3-Flash-IQ4_X  跑个鹈鹕跟个龟速一样,花了30分钟 
其他模型也试了,Ornith-1.5-122B-Q5 ,Qwen3.8-Flash-Next ,Qwen3.8-27B-BF16,基本跑出来的鹈鹕轮子是飞掉的 
佬们还有其他小模型推荐吗 
 [image]
 
 
Back to Top