@Limo-ideal 在 sol5.6首字异常问题 中发帖
最近sol的发布让gpt一片大火,但是普遍反映sol模型的首字特别慢。
鼠鼠平时自己搭了一个个人公益站免费分发给身边的人使用。收到反馈说sol的首字时间异常,具体见图:差异还是挺大的
[20a1b65dbd4224d1534fbcd17c09f854]
[52a668d4f2b27e043c36d65641cec07f]
这个感觉是明显异常了,而且比账号直接登录的回复要慢很多。
鼠鼠的路线是cpa+new-api。分别部署在两个服务器上,cpa-30m带宽(国外)、new-api5m带宽(国内)。分别都套了一层nginx。感觉应该不是网络问题,因为5.5,terra等模型使用速度都还算正常。但是科研工作又很需要比较聪明的模型去进行技术上的讨论。不知道有没有佬友遇到过这种问题,想礼貌请教一下这个情况是否有什么解决方案🙏