青争 (@Quyet)关于NewAPI的缓存命中,求佬支招 中发帖

本人前几天开了一台机器,机器上部署了cpa和newapi,然后给newapi接了同一个编排里的cpa做上游,cpa里是纯codex号池。 
目前已经跑通了,给朋友也能用,但是我通过反复的试验和观察后台,发现朋友用的ccswitch接codex,基本都能缓存命中。 
但是我自己使用的是ccswitch接claudecode,则每次输入都只显示缓存读一个很固定的且远小于输入token的量(比如每次输入十万+,显示缓存读一万+,无论是在newapi的使用日志上还是在ccswitch的统计计费上,都是一样的结果,导致统计使用的费用很高。 
我也尝试过使用codex来调用newapi,发现newapi和ccs上都显示的很高的缓存命中。 
然后我还试过给机器的也就是newapi上游是cpa端口打开,直接用claudecode去接cpa的api,ccs里面显示回到了很高的缓存命中。 
也逛了下站里的帖子...
 
 
Back to Top