qianye (@qianyegogogo)qwen3.6-27b vllm部署 推理混乱 中发帖

如题,测试下来是输出不稳定,小问题很多,表现为,不管关不关思考,有时输出会正常,有时输出会很短,有佬有解决方案吗
 
 
Back to Top