@Limo-idealsol5.6首字异常问题 中发帖

最近sol的发布让gpt一片大火,但是普遍反映sol模型的首字特别慢。 
鼠鼠平时自己搭了一个个人公益站免费分发给身边的人使用。收到反馈说sol的首字时间异常,具体见图:差异还是挺大的 
 [20a1b65dbd4224d1534fbcd17c09f854] 
[52a668d4f2b27e043c36d65641cec07f] 
这个感觉是明显异常了,而且比账号直接登录的回复要慢很多。 
鼠鼠的路线是cpa+new-api。分别部署在两个服务器上,cpa-30m带宽(国外)、new-api5m带宽(国内)。分别都套了一层nginx。感觉应该不是网络问题,因为5.5,terra等模型使用速度都还算正常。但是科研工作又很需要比较聪明的模型去进行技术上的讨论。不知道有没有佬友遇到过这种问题,想礼貌请教一下这个情况是否有什么解决方案🙏
 
 
Back to Top