Silvis776 在 对Tibo新想法更多用量的一个猜想 中发帖

新想法来源于对于额度的监测,发现每当卡的要死的时候,等效额度就会从1500上升到2200。所以会不会是一个slow速度选项,然后消耗0.75倍? 
API本来就有类似的不保证速度但是便宜的批量推理版本,这波推广到codex也合理
 
 
Back to Top