Ruan222123126 在 Ternary-Bonsai-2-27B-PQ2_0.gguf 实测很拉 中发帖
测试了自己搭的框架,还跑了大象牙膏测试,所有测试没一个能跑完的,不管是前端还是后端,没一个能编译的,且稳定进入死循环,是我的问题,还是模型的问题?不是说能达到 27b 80%90% 的能力吗,到底怎么能达到,感觉拉完了(当然,快是挺快的,但是没什么用)