dong (@dongDongDong) 在 app需要接入AI模型,是直接让用户填自己的key好,还是我搞个中转站直接承接token服务好? 中发帖
想做个英语学习的浏览器扩展(类似网页翻译但更高级,必须用ai模型)。扩展接入ai模型api用什么方式最好呢?
方式1:扩展提供设置选项,用户自己去各大模型平台注册登录充值创建key,填入我的扩展。这个方法好处是我不用管这块,坏处也极大,对AI外行的普通用户来说,完成这一套复杂操作的可能性很低,相当于把用户推出去了。
方式2:我自己搞个类似大模型中转站的服务,用户直接在我扩展上注册登录充值,使用我的大模型服务,好处是对用户很简单。坏处是我得搞一套大模型中转服务(而且网页翻译类需求和普通模型调用不一样,碎片片高并发,一个网页翻译起来会拆成几十个请求同时并发发给服务端,一般大模型中转站服务我估计搞不定。
这俩方式哪种好呢?或者还有更好的方式吗?