https://linux.do 论坛的话题更新通知频道。
Futuroscope 在 模型API使用接入日志以及审计有什么框架或者平台推荐吗 中发帖
目前有个需求是已经有了个特定行业智能助手(其实就是工具调用+角色+deepseek这种),需要给它增加审计功能。基本要求就是:
日志;
审计,能够根据用户对话判断是否偏离了本行业或者当前软件的要求,如果偏离了给出固定回答或者切断正在生成的回复;
进行额度控制,比如每天只能用几块钱的,必要还可以拉黑用户这样。
除了后台控制台不需要提供web服务,因为对话页面已经接入了其他软件中,用户注册以及额度的下发跟着那个软件走就可以。感觉目前大部分站使用的newapi做一些简单的二开就能搞定?我想问问有没有现成的轮子,或者说能尽量多快好省地用起来的那种框架,少写点代码,跪求推荐!内部使用,用户量也不会很多,能交差就完事儿weiyuabc1 在 有没有佬知道Grok Free号在CPA反代,没有缓存的问题 中发帖
我测试了我 CPA 直连,均为 grok-4.5,且 CPA 日志确认两次请求固定到同一个 xAI OAuth 账号,不是号池切号:
/v1/responses
两次相同请求
相同 prompt_cache_key
约 2845 input tokens
第二次 cached_tokens=0
/v1/chat/completions(强制 OpenAI 协议)
两次相同请求
固定 user,约 13885 prompt tokens
第二次 cached_tokens=0
/v1/messages(Claude 协议)
两次相同请求
固定 metadata.user_id,约 10285 input tokens
第二次没有 cache_read_input_tokens / cache_creation_input_tokens
想请教是Free xAI OA...QQbot (@23375) 在 Tibo:我推荐你使用cpa项目进行反代 中发帖
[image]
官方认证了属于是,出处来源于:Tibo on X: "If you aren't yet bold enough to install the Codex app, you can stay in the presence of your orange crab and point it at GPT 5.6 Sol. Takes 5 minutes. Kudos to Theo for explaining one of the ways to get this done. Step 1: Install CLIProxyAPI Step 2: Connect Step 3: Define" / X
注:橙色螃蟹指的是
[image]Minidoracat 在 OpenAI Tibo 表示欢迎大家使用 CPA 在 Claude code 使用 GPT 5.6 中发帖
不愧是 OpenAI
很大方地推荐大家用 Claude code 搭配 CPA 使用 GPT5.6
反观 A\ 那边就禁止使用第三方使用…
加上近期频繁重置,发现问题就重置、证实用户回报问题就重置、高兴就重置、送重置次数
哪边对用户比较好,应该不用多说了
[image]🈚人出🇨🇳左右 (@yu20020621) 在 bybit eu还有新号充值1欧给20欧活动吗 中发帖
上周提交的身份验证,结果前天就发来了地址证明的验证,刚看到验证完就秒下卡了,但是没有看见充一欧给20欧的活动,只看到100欧给10欧,首月10%返现,第一个月订阅返还100%@codeshuai001 在 感觉使用cursor++反代的grok 4.5很奇怪,工具老是调用失败 中发帖
如题,感觉使用cursor++反代的grok 4.5很奇怪,工具老是调用失败,我是弄得grok放到了自己的sub2 api上
[image]@samaltmen 在 注意!5.6是超过272k整个请求双倍计费,不是仅超出部分。一定要限制在272k内,否则2倍消耗速度。 中发帖
注意看定价底部的小提示:
Prompts with >272K input tokens are priced at 2x input and 1.5x output for the full request.
对于输入token超过27.2万的提示词,整个请求的输入部分按两倍价格收费,输出部分按一点五倍价格收费。
知道你额度为啥消耗得快了吧
解决办法:
~/.codex/config.toml 加入
model_context_window = 272000
model_auto_compact_token_limit = 240000