Canon (@ThikDski)Astra实际消耗其实是Sol的4-5倍 中发帖

20x的周限用完了,把这个周期内消耗的tokens拉出来对比了一下,在Astra和Sol的缓存命中率均为97%-98%的情况下(仅代表我的使用情况): 
每减少1%周限,使用Sol约3800w-4200w tokens 
每减少1%周限,使用Astra约800-900w tokens 
而官方文档中,输入输出缓内等方面的credits,Astra仅为Sol的2.5倍,因此实际使用中,输入输出缓内比例差距不大的情况下,理应tokens数量差距也应为2.5倍,实际却差到了4-5倍 
这种差异导致的结果是,原本纯Sol能用到2500刀的周限,纯Astra会仅为1600-1800刀左右。
 
 
Back to Top