公司是 aws 的代理商，有 bedrock claude 的渠道，但是 aws 控制台没有分发和计费的功能，目前在用new api 进行分发，客户主要是toB的，但是客户反馈延迟较高，所以想求助各位佬友有没有好的建议，尤其是关于延迟和缓存方面的