月下清风蝉鸣 (@aihistory) 在 ai infra中科曙光海光DCU模型部署求助 中发帖
公司有3台8卡的海光DCU K100_ai(单卡64G) 服务器，没有IB交换机，所以只能单台8卡部署，请问佬友们，这个配置除了部署qwen3.8 27B之外(限制于海光生态的vllm兼容版本)，还能部署什么模型比较好啊？ 🫠