炫彩小鱼干 (@Yuookie) 在 阿里marco-mini-instruct 纯 cpu 运行 47 token/s 中发帖

17.3B, 0.86B active 如此奇怪的参数，好奇跑了跑，cpu 如图 
 [image] 
因为是纯 cpu 运行，不涉及内存与显存的传输，所以首字很快 
 [1776236610797] 
天气卡片什么的就别想了 
 [1776236441908] 
wtf 连翻译都不行 
 [image] 
 [1776236532875] 
此贴终结
 
 
Back to Top