darkstarrd 在 有佬算过OAI的team额度,当前的5小时大约相当于多少输入输出token? 中发帖
因为缓存机制做的很棒,除了一开始进去一大坨外,后面在连续执行的时候命中缓存基本都很省,但是完成后缓存保留时间有点短,不快点恢复或者做出决策,下一轮又是重新输入
观察大约200k的input会消耗5~6%,没算过输出是怎么消费的
这个有佬研究过准确的消耗对应数字吗?