上界司命 (@worldsnake)最近整了块tesla v100 16g 想在公司内网环境做点小脚本任务,选用哪个模型比较好? 中发帖

主要就是文本读取,统计,筛选,批量修改,数据库按需查询,简单统计分析这种任务 
目前跑的Unsloth Qwen3.8 27B UD-Q3_K_XL  80k上下文+mtp 
速度是 :9769 token 时 56.24 tok/s,28723 token 时 47.65 tok/s,81962 token 时 32.07 tok/s。 
求佬推荐个更适合我需求的
 
 
Back to Top