2026年10月25日ResearchAgentsInfrastructure

agent 记忆的新麻烦:记住了早已不成立的事

昨天那批记忆论文说的是:最笨的检索打败花哨的记忆系统,删掉记录也删不干净。同一批里还有四篇,盯的是一个更隐蔽的失败:写进去的时候是对的,用的时候已经错了。

Tether 测的是这种情况:记忆里的某个事实依赖上游的东西,而上游已经失效了。读普通原子事实记忆的 agent,把 62% 的这类过期对象照样交了出去。Mem0 是 42%,A-Mem 和 Graphiti 是 9%。Tether 在写入时记下这条记忆是从哪些版本推出来的,读取时一旦依据断了就撤回,结果只有 0.3%,而且比全量核查少用 37% 的验证调用。短板是:相关事实分散在不同会话里到达时,不安全输出会回升到 9.4% 到 22.1%。https://arxiv.org/abs/2610.25123

AMV-Guard 的观点是:要不要核实,取决于你要做什么,而不是记忆本身。同一个记住的地址,寄普通包裹直接用没问题,寄贵重物品前就该再确认一遍。它用一个信息价值门控,在 ToolSandbox 上把验证成本降了 33.9%,安全放行召回率保持 100%;迁移到 AppWorld 降了 21.3%。https://arxiv.org/abs/2610.31446

另外两篇补齐了画面。一篇隐私研究发现,持久记忆让回答质量和信息泄露一起上升,而且差距随会话越拉越大。泄露会自我强化:agent 一旦提过某个个人细节,后面就更容易再提;把这些提及删掉,后续泄露的下降幅度是单轮效应预测的两倍左右。只要让 agent 不去陈述或预设用户的个人属性,泄露就能回到无记忆的水平,质量提升大部分保住。https://arxiv.org/abs/2610.28315 还有 MemPABench,模拟四个月的交互偏好,结果 Mem0、MemOS 和简单 RAG 都没打过“不用记忆”。https://arxiv.org/abs/2610.30485

这一周看下来,规律很明显:把记忆存下来已经不是问题,知道一条记忆现在还能不能放心去用,才是问题,真正的产品机会也在这里。
← 上一篇
RSI Control:前沿 agent 能在训练下一代模型时悄悄动手脚
下一篇 →
OpenAI 的红队 agent 本来在找实验室的漏洞,顺手挖出了 Brotli 的
← 返回所有文章

评论

加载中...
>_