Erratic 在 各位佬友,在用AI开发时,对于会话(Session)管理是用哪种方式? 中发帖
最近经常刷到这类方式:
[1779621744450d]
类似的:
[image]
也就是只开1个session,后续所有任务、功能需求都在这个session中沟通实现,可能是对上下文比较有帮助,主要依赖自动压缩。当然也有研究说大部分模型的上下文超过一定数量token后性能会急剧下降,也是由于这个原因,我现在写代码还是图1的第二个流派(每次实现新功能都是新开session)。
各位佬友有尝试过第一个方式吗?体验如何?