NaynIruR (@ruri39) 在 qwen3.8 27B用Dflash2速度起飞了 中发帖

配置是两张5090，官方fp8量化权重+fp8 kvcache 
 [image] 
 [image] 
差不多能跑180tps
 
 
Back to Top