茉茉 (@Cream) 在 求助Agent的memory选择哪个方案 中发帖
公司开发了一个Agent平台,技术栈是langchain4j+Java21,现在针对Memory存储这块有三个方案,最初的方案是方案三,现在是方案一
方案一
每个会话的ChatMemory存一个记录,条数是固定的
方案二
ChatMemory单独存储,但是条数是固定的
方案三
ChatMemory增量存储,条数会越来越多,相当于全量,但是使用的时候是查询一条System和n-1条记录
因为需要实现一个重新回答的功能,如果使用方案一的话,重新回答的时候,ChatMemory会跟上一个回答不一致,会少最旧的几条
大概的功能流程是这样的:Q1->A1->A2
我现在的思路是:
Q1->A1,用户点击重新生成,然后我查询ChatMemory,删除掉Q1->A1这个过程中的全部ChatMemory,这样的话A1跟A2的回答是完全独立的,然后重新用Q1->A2,因为聊天记录...