她的高玩 (@jiajun0805) 在 服务器GPU推荐,主要从事科研方向的模型训练 中发帖
佬们,目前课题组算力不足了;导儿给了25W预算购置显卡,组内目前全是NVIDIA的显卡(3090、A6000),平时课题组主要用于深度学习模型训练,并不部署本地大模型推理使用(但不考虑以后会不会考虑部署本地模型,毕竟现在Qwen3.8 27B还是很吸引人的)。
预算卡在这里也挺尴尬的,目前多卡A6000,48G的显存已经不够用了,我倾向于RTXpro6000D,但可能只能买两张;佬们能给一些建议和支持吗?国产卡如果对pytorch支持好、价格划算的也可以接受。