ironfish 在 想确认一下Claude 订阅用户的缓存读取到底是否有收费? 中发帖
想跟大家确认一下,Claude 订阅用户的缓存读取到底是免费的还是收费的?如果是收费的话,是不是和 API 的实际设定比例相似,也就是说是 1/10 的写入价格
很多佬提到是免费的,但是怎么搜索都找不到确凿证据来源
因为如果按照API的计算方法,其实压缩点位在100-150k,它的费用是最省的(当然,在这个位置去压缩是不合理的,所以一般就是尽量接近于这个位置,取一个比较合理的区间).
但是如果缓存读取完全不收费的话,那就只需要考虑模型本身的注意力能力了.目前 Fable5.1 官方数据显示,它的注意力在 500K 以内都保持得很好.我们假定 OPUS5.5 也是这个水平的话,基本上上下文自动压缩可以设置在 500K 左右