前言
截止目前为止，vLLM 官方版本都不支持在 30 系上运行 DeepSeek V4 系列(vllm-project/vllm/issues/40851) 
关于 DeepSeek V4 Flash，站内已经有很多部署成功的案例了，DGX Spark、RTX Pro 6000、H800 等等，8 卡 A100 也有一篇四月份的，但是用的是 llama.cpp，看上去性能不太理想，只有 14 token/s 左右，属于玩具级别。 
之前就注意到有一些第三方的 vLLM/SGLang 版本解决了 A100/A800 不能跑的问题，但不确定实际效果怎么样，正好手头有闲置的算力，因此进行了实验，本文为实验结果。 
本人比较熟悉 vLLM，而且 vLLM 这个版本可以使用原版模型，不需要量化或者 gguf，因此就只测试了这个。 
抛砖引玉，测试方法比较粗糙，欢迎大家交流指正。 
测试环境
GPU...