xy3rwkv作者发起适配vllm等库的悬赏30万 中发帖

以下为群消息转发 
各位,RWKV-7的HF transformer适配,vllm适配,sglang适配:各奖励30万元 
需要做到接近生产级的性能: 


达到rwkv-lm和albatross的 性能 速度 精度 显存占用 等等,对于各种bsz 


HF的适配,需要能正常用HF的各种PEFT和RL库等等 


vllm/sglang的适配,需要dynamic batching, chunked prefill, state cache等等 


支持全部常见专业和消费卡 


量化推理,支持8bit 4bit,显存占用需要下降,速度做到不比16bit慢即可 


 [Screenshot_2026-06-30-15-20-59-57_9d26c6446fd7bb8e41d99b6262b17def]
 
 
Back to Top