王多鱼 (@NOBB2333) 在 跑本地LLM,做了一轮调研,想听听佬友的意见 中发帖

佬友们 我还是在幻想,本地LLM 有没有搞头 
目前手里一台垃圾笔记本, 最近想换一台电脑,主要用途不是传统办公或者游戏,而是想认真折腾一下本地 LLM / Coding Agent / Agent Loop。 
预算大概 8K~1.2W RMB,如果确实有明显提升也可以再往上,再多就用官方了。。。 

我的需求
主要是: 

Coding Agent / Agent Loop
多终端同时调用
RAG、文件分析、代码修改、测试等


现有设备 
  i5-12400
  MSI MAG B660M MORTAR WIFI DDR4
  DDR4 32GB
  Intel Arc A770 16GB
  850W 电源

想法是 再买一张 A770,搞: 
A770 16GB × 2
32GB VRAM

至少 30B/35B Q4 模型,能用 
 [image] 
 [image] 
 [...
 
 
Back to Top