Eviaaaaa生成30个文档就开始失败?一次流程智能体高并发雪崩问题排查 中发帖

背景:项目是二开的Ragflow[ GitHub - infiniflow/ragflow: RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs · GitHub ],没有缓存机制。 后端有Python,Java两端,我主要负责是Python端,这次问题主要是调用流程智能体的接口。 
测试分两种:一种是一瞬间进行N个请求,一种是生成N个文档(调用10N次 流程智能体接口,但有的有先后顺序) 
省流总结:本次故障是高并发下缓存缺失、认证链路过长、外部限流以及图片下载和解析占用带宽/CPU共同叠加导致。 
...
 
 
Back to Top