使用Ubuntu22.04的Linux主机。只有一张4090 24GB的显卡。使用llama.cpp部署huihui-ai/Huihui-Qwen3.8-27B-abliterated 版本的模型，使用Q4_K_L量化版本。