Ghost32 在 求佬友帮忙推荐一个本地部署用的coding模型 中发帖
A6000 48G,9700x,64G。想在本地部署一个模型,主要工作就是coding,逆向,破限。对速度要求不敏感,就我自己一个人使用,单并发,想开thinking,上下文估计就128或256了,目前我看了一下,Qwen3.8 27B Q6_K FP16 KV thinking或者Q8 F16 KV 128k.我固件能选择的就是只有3.8 27b这个模型了吧。我主要就是挂着然后接入到CC和codex等agent里面使用,没有什么其他的需求,希望佬友可以给点建议,就是当作一个本地部署的旧版本opus4.6了,当时也是200k上下文,虽然老压缩,但也能用