surf (@zhangshiwu) 在 AI agent开发AI 工具总会出现这两个问题,每次看到都无语了😅 中发帖
默认设置max_tokens参数,模型回答过长导致输出截断,调用工具会失败
默认选择非流式输出,长思考模型或者模型输出过久会导致中断,请求一直报错
每次出现这两种问题,AI agent会怀疑我给的模型提供商和模型有问题,还反过来质问我. 这真是欠骂了 🥵