morrussa (@morusa) 在 [开源]mori,根据当前状态动态重组上下文的反传统memory设计。 中发帖
首先,我想讲一点个人的想法。可能语气很凶,但是我在这方面投入越久越觉得这领域问题大了
我认为现有的memory设计都有问题,常见的sota方案无非是后面边的数量爆炸以后调用LLM的成本指数级增长,还是引入自然遗忘掩盖复杂度问题的区别,可以说写日记是这方面爆炸的罪魁祸首。
还有LoCoMo作为标准的问题,自带的300题明摆着向着检索和纯向量DB,我看过一遍我都记不住,我的成绩都没向量DB高?
一个两个的都说是模拟人类记忆,回头一看全在写日记。就写日记这个前后调用LLM,遇到冲突的时候还要LLM来裁决,那我问你,它是什么有自知力的东西吗?那它要是召回的是错的怎么办?以后记忆一多捞出来全是噪声怎么办?真的等着撞到大运了再去裁决?
这些问题一个都没人去解决。
当然,我也不是在说我的项目就是最优解,只是我感觉现有的memory工作就是一帮人在互相水论文。
讲一下这个项目的原理,它在拓...