lineulb可以批量测试模型健康度的工具 中发帖

本来想用现成的,但很多在线的会有偷key的“嫌疑”,于是耗资n多token,用nicegui写稿了一个简单的项目。 
项目名是 sub-api-check-nicegui 
这是一个跨平台、纯本地运行的大模型 API 测速与监控工具。全面适配 OpenAI 和 Claude 模型,支持批量检查与健康度监控。数据零上云,绝对保障隐私安全。支持配置导入导出(支持环境:Python 3.8.5+) 
你可以从github上搜本项目代码,也可以从本帖上传压缩包下载。 
下载本项目,并解压到同一目录下 

bash start.sh 启 动
bash start.sh stop 停 止 所 有 匹 配 到 的 app.py 进 程

正常启动后,浏览器打开http://本机ip:80/ 
Note:默认运行端口是80端口,要改端口的话查找 run_port = int(os.environ.get(...
 
 
Back to Top