比卡丘 (@yixiaochuan) 在 现在开源模型的16比特,Q8,Q6,Q4,效果损失到底多大? 中发帖
之前看了好几个评测视频,基本上都说Q8就没什么损失,
Q4不到10%,是真的这样吗?
有真实测试数据的介绍文章或者视频吗,谢谢佬友分享。之前看了好几个评测视频,基本上都说Q8就没什么损失,
Q4不到10%,是真的这样吗?
有真实测试数据的介绍文章或者视频吗,谢谢佬友分享。