沈剑心 (@sjx_2877389577)开发Agent,短期记忆应该怎么做? 中发帖

最近在开发一个小说系统,里面有Agent系统。 
但是目前在记忆管理时遇到了问题。 
如何给AI发送记忆,但是又不占用太多上下文窗口? 
我不知道我的描述是否准确,所以我举个例子。 
比如我和AI对话了100轮,那这100轮的聊天记录就是这次会话的记忆。 

新对话请求时,都把100轮对话发给AI,那么它就会有之前对话的记忆 
但问题是AI的输入上下文有限,且一次性发送一大堆给AI就会导致模型注意力变差,所以我目前的方案是 每次只发送15轮对话给AI + 之前所有对话的总结摘要 
我不知道这种方式是否合理,我也是问了GPT才这么做的,所以想问问有经验的大佬们是怎么做的。
 
 
Back to Top