@ycoroy从中转站信任崩塌的困局到国产模型崛起,我选择国产模型替代 中发帖

八月份站里中转站的瓜有点多,感觉这是中转站这门生意的困境 
中转站这生意本质是信息服务,靠的就是一个前提信任。但这个前提从三个方向在被瓦解。 

各家模型能力趋同(Agent and coding),欺诈越来越难被发现

现在各家跑分上限都往同一个区间靠(AA or DeepSWE),以前用千问冒充 Claude,一眼丁真。现在就没那么容易看出来了,因为大部分任务,大部分模型都可以做到,顶尖大模型是在长程任务下表现更稳定,但也不是绝对的。脏 Token 检测是目前相对靠谱的思路,但也只能判断是不是同一家模型,做不到百分百确认——大模型是概率模型,输出本来就有随机性。 
 [image] 

模型在发布之后,官方会进行持续后训练以及部署阶段进行量化

部署成本太高,厂商基本都会对线上模型做量化,BF16 压到 INT8 甚至 INT4,能力必然有损耗。比如智谱布出的就是FP8,后训练会导致模...
 
 
Back to Top