@Luke_Alexander 在 Codex新session软重启 中发帖
佬们,Codex桌面app,5.5超高 258K上下文,轮次多之后经常遇到上下文错乱的问题。并且随轮次变多,消耗token变多背景信息压缩准确率下降,推理变慢,只能新开session。
针对特别复杂的任务,比如自然语言推理数据合成,很多特殊技巧无法脚本化。新session,同一个project基本只能保留一些基础的上下文,要从头开始给模型灌输,麻烦且一致性挑战大。
一个直觉的方法是让模型维护额外的项目级记忆。佬们有没有好的实践,不额外消耗太多token,能够像软重启一样保留我们认为关键的上下文。