@dexco 在 量化版大模型,生成的代码质量怎样? 中发帖

用INT4部署大模型,据说用的显存比较小, 
各位自己部署过量化版大模型么
 
 
Back to Top