@nerokey纯rust开发的一款Llama.cpp GUI界面 | 美观简洁易用,欢迎各位下载使用 中发帖

这是一个由rust开发的Llama.cpp的GUI界面,旨在降低llamacpp模型部署的难度。包含功能如下: 
1、llama.cpp自动下载最新版本或者自行选择引擎目录 
2、模型启动参数快捷配置,如果快捷参数没有可自定义输入参数 
3、参数预设,可以保存多套预设好的参数,针对不同模型,一键保存和填充预设的参数,快速使用 
4、模型下载,支持从huggingface/modelscope根据模型id查询和下载各种量化版本的模型文件,下载支持断点续传 
5、llama.cpp的运行日志可以实时查看 
6、集成了简易的模型对话界面,可看到思考过程以及token生成的各种指标,还支持对话历史、根据模型能力自动探测支持附件(文本/图片/音频/视频),其中视频需要本机有ffmpeg(视频类型的没有测试) 
具体介绍和使用可以详见github,也可以评论回复。可以求一个star吗,感谢各位佬的支持...
 
 
Back to Top