@lanvent 在 Any请求疑难杂症解决方案(第二期)- 如何针对Any设计体验提升10倍的本地网关 中发帖

前言:因笔者只使用Any的GPT模型,下文只涉及Codex。当然,Claude的原理是一样的。 

本地网关:指在Codex和Any之间部署一个转发器程序。 
发请求:Codex  ──>  本地网关  ──>  Any
收消息:Any    ──>  本地网关  ──>  Codex

引入本地网关,可以解决很多Any的疑难杂症: 
1. 获取更详细的错误信息
Codex客户端有时会吞掉上游具体的错误或只返回简略信息。网关可以直接截获原始响应,打印详情方便定位。 
2. 捕捉请求内容与思维强度
Any会映射思维强度,当前的规则大致是: 
low       -> low
mid/high  -> high
xhigh/max -> max

比如国庆期间经常会出现概率性路由到low(也就是降智)。本地网关可以直接从消息流中解析实际思维强度并打在日志里。 
3. 动态更换上游绑定账号
之...
 
 
Back to Top