Leif Yang 在 疑问:模型智商跟使用人数的关系 中发帖
在回看经验分享贴时觉得一个观点挺反直觉的:
很好奇这个观点。
个人此前的认知,激活的参数量该是对于单个调用来说的,并且算力调配应该是一种分配策略,很难影响到推理逻辑。
但我并非是专业人员,也未做过相关科研,因此询问了一下AI:
[image]
Sol [Max]的回答中,对此见解不同,认为这种情况只有“特殊的’按负载切换模型/分配推理预算’机制”下才可能发生。
[image]
Opus 4.6 [Thinking]的回答则很符合个人的此前感受,对此见解不同且截然相反。
不知道佬友是否有专业的,觉得这种反直觉的观点要是能够成立,那背后的逻辑一定很有意思,很好奇