longcheng 在 新手请教16G显存32G内存本地部署推荐装哪个版本的模型 中发帖

各位大佬，看到很多本地部署大模型的视频，但是现在陷入了尴尬的局面，5080显卡16G显存+32Gddr5内存，到底是部署27B版本的模型还是部署125B的轻量化的模型呢？请各位大佬指点 :😳:
 
 
Back to Top