yfowc分享一个节约token,并提高AI智商的思路 中发帖

新人第一帖,这个也是烟雨大佬推荐解决AI长期记忆的一个思路,我只是分享给大伙.佬们轻喷 
众所周知LLM模型 上下文填得越满,LLM输出质量越差。以 168K token 的上下文窗口为例,大约用到 40% 就开始走下坡路了。 
如果能通过长期记忆解决部分上下文读取的问题也是好的. 
推荐的项目是 MemOS. MemOS 
地址在: GitHUb 
官网在: 官网地址 
MemOS 是一个面向大型语言模型(LLM)和人工智能代理的内存操作系统,统一了存储/检索/管理,实现了长期记忆的上下文感知和个性化交互,内置了知识库、多模态、工具存储器和企业级优化功能。 
按官方说法,使用opneclaw加入memOS,tonken使用降低72%. 
之前使用小龙虾的时候确实是可以完美实现云记忆,降低token增加智商的 👍 
memOS会自动判断哪些值得存储,同时官方提供了MCP和云存储服务,可以简...
 
 
Back to Top