@mcmdo 在 【求助】sub2api首字延迟居高不下 中发帖
如图,sub2api首字延迟居高不下,p99甚至超过了10秒;ip是新加坡机场节点,sub2api里面测出来的延迟只有41毫秒。用的一般都是gpt-5.6 xhigh接自己的pro 20x。求助佬友们这是ChatGPTinference服务本身就拥挤需要排队吗?有什么办法可以降低首字延迟吗?
[image]