robo7 在 DSH 自动审查功能踩坑 中发帖
DSH自动审查功能
目前版本(0.2.1-rc.2及以下)慎用!!
最近在使用 DSH 的时候发现本地统计的用量和上游统计的对不上,分析了半天才发现是 DSH 实验性功能-自动审查的问题
开启后会每次工具调用请求都会额外调用LLM发一次审查请求,这次请求不写任何会话记录,
且 “不缓存、不重试、不截断”——审查 prompt 携带过滤后的会话历史,每次都是全价未缓存的大 prompt,造成额外的 tokens 消耗。
统计最近开启这个功能之后调用 LLM 次数翻倍,tokens 消耗量增加 40% 😭
[image]