bujinbufa 在 请教关于llama-sever启动参数 中发帖

llama-sever的启动参数一般都用哪些？ 
性能参数：-ngl, -t？ 
上下文参数-c？ 
api服务参数–host, --port, --api-key？ 
还有哪些？
 
 
Back to Top