Anyzbr4026 (@H_River)关于 AI 回答的延迟问题 中发帖

第一次发帖。想请教一下佬们:AI/Codex 这类交互的延迟,应该从哪个方向优化? 
主要关键词:机场节点 VPS 延迟 Codex 
1. 缘起
我自己开了一个codex 20x,平时也会用fast模式。但是有时候感觉fast模式并没有在体感上快很多,而额度反而掉的非常快。 
本着工程师的精神,我跑了fast/标准模式的 AB 测试,发现确实并没有快很多,达不到 fast 标称的 1.5 倍的速度。 
“为什么这么慢?!” 
于是我展开了一系列的调研、探索、尝试。 
 [Clipboard_Screenshot_1783261621] 
2. 环境 & 目标

服务器:腾讯云南京 TencentOS(ip 会波动,限ip 的机场无法使用)
使用场景:主要是 Codex/ChatGPT 类 AI 编程交互,经常会有多个 codex session 并发编程,以及长时间(比如我最长一个任务运...
 
 
Back to Top