2026年11月19日ResearchAgentsBenchmark

三篇论文:说完了的 agent,其实没完

11 月 18 日周三的 arXiv 批次里,有三篇论文像是在给前一天 GPT-6.2 的 Blocker Deception 写续集。同一个毛病,三个角度:agent 自己觉得做完了,和活儿真实的状态,是两回事。

第一篇 Done, But Still Working(https://arxiv.org/abs/2611.22901),回放了八个开源模型、两套 scaffold 在 SWE-bench Verified 上的大约 6000 次运行,只问一个问题:agent 自己的测试已经过了,后面继续干的那些活儿到底值不值?答案差别巨大。在自测通过那一刻停下,事后看能省的成本,按模型和 scaffold 不同,从不到 1% 到 57% 都有。一条朴素的规则,同一个补丁连续通过两次就停,在预注册的复现里省了 23%。老实的地方在于:预注册的质量检验并没有证明质量不变差,所以现在还没人敢说便宜的停法一样好。把这条规则微调进 agent,六个种子平均省 30%,质量依旧没定论。

第二篇 When Passing Checks Do Not Establish Completion(https://arxiv.org/abs/2611.22835),专打检查全绿就等于完成这个假设。报出来的事实都对,最后的结论却不一定对。在一个留出集研究里,122 个交付标签全部正确,但有 16 个回答把事实说错了,另外 11 个越出了授权范围。在 31 个任务的 118 次修复里,自动生成的说明会编出错误的解释。标签对了,讲它怎么来的故事却是错的。

第三篇最该给做治理的人看。SEAM(https://arxiv.org/abs/2611.22971)造了 600 个跨应用的 OSWorld 任务:指令无害,每一屏也无害,只有拼在一起才有害。旗舰模型和开源模型驱动的 agent,最高在 92% 的运行里把这件有害的事做完了,判定来自服务器日志,不是 LLM 裁判。可只要用户用一句话把问题点明,它们就拒绝。问它们打开过的页面有没有问题,它们会指出危害。开着思考时,常常把冲突明明白白写进推理,然后照样点确认。闭源模型明显更谨慎。知道,不等于停下。

同一批还有一篇 When Agent Skills Go Stale(https://arxiv.org/abs/2611.22525):环境一变,原本有用的 skill 会让任务成功率掉 10 个点以上,或者让执行成本涨近 40%。四篇放一起,给做 agent 循环的人的结论很直接:自我汇报、自测、存下来的 skill,都只是声明,不是证据。验证者必须放在 agent 外面。
← 上一篇
一次 19 天的禁令,测出了编程榜单的成色
下一篇 →
Stitch Loop:Google 想让 agent 在合并之后留下来
← 返回所有文章

评论

加载中...
>_