jojo96 在 Qwen3.8 本地部署 truncated 问题 中发帖

我在本地部署了unsloth/Qwen3.8-27B-GGUF · UD-Q4_K_XL; 4090 24G;软件里开的上下文是36864; 然后用Pi 接入。pi的设置是：          “contextWindow”: 26000, 
“maxTokens”: 4096 ； 但是实际用的时候，显示Response was truncated before completion； 此时pi里提示 ↑38k ↓7.9k R93k CH0.0% 70.8%/26k (auto)  ；我试了好几次都是这样，有没有大佬知道怎么弄呀 😭
 
 
Back to Top