自旋烧麦 (@corehys) 在 AA V5.0最大的变化是大小模型的差距更显著了 中发帖

新的AA榜单,flash级别模型无法再碰瓷主流闭源模型(5~10T参数量级别) 
27B的qwen也与flash模型进一步拉开差距。 
模型参数越多,先验的上限越高。 
在训练充分的情况下,世界知识越丰富,给人的体感越聪明。 
虽然跟模型参数量不是绝对关联,但是相关性显著提高。 
国模可以通过充分的RL,让小参数量模型在某些benchmark的任务上充分拟合,刷出很高的分数。但是每次评测标准一变就会死的很惨。
 
 
Back to Top