克劳塞支 (@lqf1024) 在 [开源补丁]优化Hermes用中转站API的缓存命中,减少50%的额度消耗 中发帖
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
我的帖子已经打上#开源推广::tag标签: 是
我的开源项目完整开源,无未开源部分: 是
我的开源项目已链接认可LINUX DO 社区: 是
我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
以上选择我承诺是永久有效的,接受社区和佬友监督: 是
以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出
昨天被hermes在额度上给开了大眼 😡,一气之下下搓出来的。
这是使用前:
[图像]
0.5毛1M因为hermes缓存命中没有适配好,都快干到2块1M了
所以专门写了给hermes的补丁
这是使用后:
[27e99851e4aa60219e3916ec26b4f041]
可以看到基本恢复0.5毛1M的正常价格了
本质上就是让他模拟Codex的请求方式调用api
暂时只支配GPT,当然...