@SLongan推进一下好用的中转站, 准备在公司搭一个中转 中发帖

背景: 公司购买了aws claude模型, 想搭一个中转站来做分发。后续也会接一些国产模型搭配使用, 降低成本。 
要求: 最好可以支持分组按部门来统计token用量、每月支持对每人额度进行重置、可观测(最好有) 
大家帮忙推荐一下, 我看站内好多都是new api, 感觉new api用来商用比较合适, 还有别的吗
 
 
Back to Top