@F1rstb100d 在 DGX Spark 科研 中发帖
各位佬,小弟刚开始做科研,实验室的显卡不太够用,偶然刷到3W左右的128G的DGX Spark
想请教一下如果我的使用场景是微调一些预训练模型,比如BERT家族或者8b的llama家族,用哪款显卡性价比最高(最好考虑上2、3之后二手回收的价格 😂)
还有一个点就是未来有可能会LoRa微调30b的模型,是不是5090这种消费级卡不太行了
因为可能会使用两三年,所以个人感觉网上租算力是不是不太划算,前来请教下各位科研大佬 🤗