原来 agent 的记忆,能把模型搞得更笨
来一个跟这一年 agent 热潮对着干的研究结果。MemTrapBench,出自 ZJUNLP 的团队,在两个模型家族上测了五套记忆框架,发现每一套记忆策略的表现都不如完全不带记忆。最强的方法也照样掉了 10% 以上。我们一直把记忆当成 agent 显而易见的加分项,这篇说,按现在的造法,它常常是净负分。
有意思的是原因。这些失败不是常见的那种检索错了事实。它们来自准确、相关的记忆,却照样把推理毒化了。论文点了两个陷阱:推理固着,过去的某个解法把模型锁进一条不适合新问题的路子;以及信念扭曲,检索来的上下文歪曲了模型对当下真相的判断。换句话说,记忆不只是靠遗忘出错,它靠记得太自信出错,让过去压过当下。
他们提的解法 AdaptiveMem 简单到有点尴尬:在推理时加一条指令,叫模型当心记忆陷阱。它能压住损害,同时保住常规记忆任务上的收益。它居然管用,才是真正的发现——因为这说明很大一部分损害来自模型不去质疑自己的回忆,而不是存记忆这件事本身有硬上限。任何在给 agent 加记忆层的人,上线前都该读一读,因为记忆越多越好这个默认假设,现在已经被量化地证伪了。论文在 arxiv.org/abs/2608.20202。
← 返回所有文章
有意思的是原因。这些失败不是常见的那种检索错了事实。它们来自准确、相关的记忆,却照样把推理毒化了。论文点了两个陷阱:推理固着,过去的某个解法把模型锁进一条不适合新问题的路子;以及信念扭曲,检索来的上下文歪曲了模型对当下真相的判断。换句话说,记忆不只是靠遗忘出错,它靠记得太自信出错,让过去压过当下。
他们提的解法 AdaptiveMem 简单到有点尴尬:在推理时加一条指令,叫模型当心记忆陷阱。它能压住损害,同时保住常规记忆任务上的收益。它居然管用,才是真正的发现——因为这说明很大一部分损害来自模型不去质疑自己的回忆,而不是存记忆这件事本身有硬上限。任何在给 agent 加记忆层的人,上线前都该读一读,因为记忆越多越好这个默认假设,现在已经被量化地证伪了。论文在 arxiv.org/abs/2608.20202。
评论