trdyun 在 你们对模型的参数量与精度有“洁癖”吗? 中发帖
不知道为什么,我在使用模型的时候,总是会对参数量有一些类似于“洁癖”上的需求
虽然说模型的参数量在大多数时候意味着模型的能力
但我在有限的算力资源中,总是在尝试着尽可能大的参数量、尽可能高的模型精度
以至于忽略了模型部署时并发的需求
各位佬友,我想问一下,仅对于模型本地部署 coding 来说
一味的追求大参数、高精度、长上下文,是不是一种变态的“洁癖”