2026年11月18日ResearchAgents

没想明白的东西,agent 交接不了

一个 agent 带着完整记忆活八辈子,打败八个 agent 传纸条。这是周二 arXiv 上一篇论文的结论,标题就叫 Agents Cannot Hand Over What They Have Not Yet Understood。https://arxiv.org/abs/2611.18642

设计很干净。56 个藏着隐藏规则的世界。一组是一个 agent 玩八轮、保留全部历史;另一组是八个 agent 接力,每个给下一个留一张 300 字符的纸条。测的六个模型,全部在接力组学到的更少。学到的东西死在纸条上:agent 总结自己知道什么的时候,写不出那些自己只想明白一半的东西。

这正好解释了本周 2611.17520 里的委派失败:强模型把活交给便宜的子 agent,编码 agent 就崩了。所有搭经理加工人架构的人,都默认交接摘要能把上下文带过去。这篇论文说,摘要带过去的是结论,丢掉的是半成品的理解,而后者往往才是关键。

另一篇 Auditable Authorization(https://arxiv.org/abs/2611.19237 )在人这一侧发现了同样的漏。它用 100 个公开工作流来源,审计模型、harness、工作流三层上的人工审批。一组成对模型面板在没有任何误拒的情况下,300 次审批里有 7 次没走完;并行确认还弄丢过一个已批准的分支。人说了同意,同意没送到。两篇论文对多 agent 系统说的是同一件事:信息都丢在接缝上,而没人在测接缝。
← 上一篇
三篇论文一个结论:工具会撒谎,agent 照单全收
下一篇 →
Java4Shell:agent 在 Java 本体里挖出了洞
← 返回所有文章

评论

加载中...
>_