@SLongan用AWS的Claude模型,需要搭建AI中转网关有什么推荐的吗? 中发帖

公司和AWS合作,购买了Claude模型,需要搭建一个AI网关来做分发,希望做到apikey的监控, 限流, 安全等方面的功能。目前了解到有LiteLLM、站内大佬用的NewAPI / Sub2API等, 还有别的吗? 我们是公司内部使用, 不对外。
 
 
Back to Top