@Blackwood416 在 呜呜呜，这个规模的benchmark就这么吃token了吗 中发帖

最近做了个工具想着加速推理引擎的模型适配，然后为了量化工具的效果设计了个benchmark，但是这个token用量太吃不消了。 
 [Screenshot_2026-09-17-20-51-59-590_core.writer] 
这5个每个跑6次（3组A/B），就花了17亿的token，这要是跑全量权重我的钱包可能会当场暴毙，感觉得开源出来让感兴趣的佬帮忙跑一下了。 
 [Screenshot_2026-09-17-20-33-39-174_com.microsoft.emmx]
 
 
Back to Top