LenGary 在 5080笔记本本地部署选什么模型,好纠结 中发帖
新买的笔记本290hxplus+5080,32+4t的配置,本来我对本地部署毫无波澜,因为别管是付费还是公益站哪个效果不比本地那小模型强啊
但是最近工作原因每天固定8小时断网,手机网也巨慢无比,真的太难熬了,动了想本地部署玩酒馆的心思
好歹我这配置带得动吧,不至于以前1650的卡一个一个字往外蹦
我跟ds聊了半天推荐我qwen3.5 9b,也问过gemma4这种,但是说实话选择太少了
有没有佬已经玩过了感觉效果不错的推荐推荐啊,需求就是酒馆、翻译、改扩写一写材料这样