珈蓝 狮子 (@lionsky) 在 [VCP]新增分布式预消息处理器插件协议支持——吗? 中发帖
今天VCP实现了整个vcp工具链的最后一公里,预消息处理器插件(messagePreprocessors)的分布式兼容。
这是一个需要非常谨慎讨论的工程化,需要严谨的思考和讨论。
预消息处理器不同与别的插件,它是和中央服务器高度耦合的插件类型,比sever类有更强的端口关联性。
它的核心在于拦截前端post的上下文数组,进行预操作,从而为ai注入思维,记忆,上下文折叠,噪音净化,灵魂时钟,多前端上下文来源追踪等复杂的工具模组。
首先,为什么要实现这个插件类型的分布式。
例如,监控网关的分布式节点,如同在对应的分布式设备上允许使用预消息处理器,就能在每次用户对监控网关上的agent聊天,或者对应节点的agent使用自巡航机制时,在post的user请求里,自动引入当前的监控画面的base64数据,而不持续写入上下文,实现即时审查,用完即抛。这在别的插件类型里难以实现。
回到难题。 ...