@jiangshen本地部署模型求推荐 中发帖

佬们,实验室有一台 8xA6000 的服务器,大部分时候闲置,想着要不要部署个本地模型玩一玩。尝试了一下 Qwen-3.8-27B 和 DeepSeek-V4-Flash,感觉 DeepSeek 搭配 DSH,效果还可以。 
然后,其实更想请教的是,本地部署这类模型平常能干嘛?感觉不怎么会用,如果有需要还是会优先选择Codex这种。也就是尝个鲜,玩一玩。
 
 
Back to Top