王多鱼 (@NOBB2333) 在 跑本地LLM,做了一轮调研,想听听佬友的意见 中发帖
佬友们 我还是在幻想,本地LLM 有没有搞头
目前手里一台垃圾笔记本, 最近想换一台电脑,主要用途不是传统办公或者游戏,而是想认真折腾一下本地 LLM / Coding Agent / Agent Loop。
预算大概 8K~1.2W RMB,如果确实有明显提升也可以再往上,再多就用官方了。。。
我的需求
主要是:
Coding Agent / Agent Loop
多终端同时调用
RAG、文件分析、代码修改、测试等
现有设备
i5-12400
MSI MAG B660M MORTAR WIFI DDR4
DDR4 32GB
Intel Arc A770 16GB
850W 电源
想法是 再买一张 A770,搞:
A770 16GB × 2
32GB VRAM
至少 30B/35B Q4 模型,能用
[image]
[image]
[...