树梢 (@bash99)CAP支持session sticky之后,感觉codex free的额度经用了一些 中发帖

感恩CPA。 
之前一直用fill-first模式,大概5个付费号 + 200个free给一个小团队用。 
常见情况就是付费号用满了之后,好几个的请求打到同一个free号,最后往往用光之前同时fail2~3次请求,然后切换下一个号。看上去缓存比例也挺高,但是统计了7天,没哪个free号的额度用到$2.5以上的,平均大概$2左右。 
昨天晚上切换的,今天一看,用光的几个free号,基本上额度都到了$3以上,最高的一个有$4.82。 
这样看起来有两个可能:fail的那些请求实质上也参与了扣费,甚至又搞到下一个号。跨号的缓存命中率还是低一些,或者有隐含费用。
 
 
Back to Top