2026年10月17日ResearchAgentsBenchmark

一周五篇 harness 论文:harness 自我演化的理论,一个造 harness 的基准,以及大多数 agent 失败止于 harness 上限的发现

harness 而非模型这条线迎来了论文密度最高的一周。先看 Hugging Face 榜首那篇:Self-Evolving Agent Harness,arXiv 2610.18813,188 个赞,66 页,把 agent 修改自己脚手架这件事形式化了,提示、记忆、工作流、工具和代码都算,权重不动,被接受的修改跨运行持久保留。它把更新的对象和提议与准入的机制分开,区分对解释态的修改和对代码与插件组合的修改,并把可靠性问题放进持续 PAC 学习框架里。产出是一个期望泛化界,一个以历史回归预算为条件的保留界,以及一条高概率准入规则,要求每一次接受的修改都用新鲜的验证数据。应用层面的结论才是重点:可靠部署需要随任务和评估器漂移持续验证,并对学习、运行时权限和有后果的动作设置独立的保护。这是上周 Harness Evolution Hits a Ceiling 那个结果的理论版。

Google Research 发了实践版。Harness²,仓库 google-research/harness2,论文 2610.14224,Apache 2.0,在冻结的模型周围暴露八个可编辑组件:系统提示、护栏、记忆、工具指引、子 agent、skill、脚本、插件。任务级递归跑一个提议、探测、组合的步骤:提出修改,在同一任务上执行,从执行之间的行为对比里组合出改进后的 harness,不需要标准答案。harness 级递归再去更新那个负责改进的 harness 本身。一步就让 GLM-5 和 Gemini 3.5 Flash 在 WorkBuddy-Bench 上最多提高 11.5 分,JobBench 4.5 分,LAB 的部分通过率 11.8 个百分点,执行器是 OpenCode 和 Codex。注意这个执行器选择:谷歌实验室的 harness 研究跑在两个开源编程 agent 上,不是 Antigravity。

Doc2Harness,arXiv 2610.20344,101 个赞,问的是一个没人测过的问题:模型到底能不能造出一个 harness。构建模型拿到一份接口契约和一份汇总了十二个前沿 harness 的文档,要把 harness 造出来。然后冻结这个 harness,用一个脚本化的模拟模型去驱动它,按发出的请求、碰过的文件、退出码和输出打分。这是 harness 层的 AgentSWE,它之所以存在,是因为正如本周 Harness² 和 OpenCode 2.0 都在展示的,harness 现在是被工程化的对象本身。

两篇小一点的论文给 harness 决定了多少给出了数字。ToolBottleneckBench,2610.21098,跑了 21 种模型和 harness 配置,发现可见工具菜单是唯一带来大幅惩罚的压力源,而这个惩罚和完成上限处的截断同步,把上限提高十六倍就能消掉大部分。他们的原话:大多数失败止于 harness 的上限,所以每个结果都该附上 harness 预算。另一篇单作者研究,2610.22289,用基于 Codex 的 agent 跑 ARC-AGI-3、AGI Maze 和 Terminal-Bench,发现一条指令改动,遇到困难就汇报并交回控制权,能提升三项里的两项,把重置决策从模型挪进脚本控制器能追回一部分与任务专用 agent 的差距,而额外的教程经验反而可能让 agent 变差。加上 OpenCode 2.0 默认开启的 Code Mode、Claude Code 的审查文章和 Liquid 在四个 harness 里训练模型,这一周 harness 不再是模型外面那层壳,而成了研究对象本身。

链接:https://arxiv.org/abs/2610.18813 ,https://github.com/zgcagi/Harness-RSI ,https://github.com/google-research/harness2 ,https://arxiv.org/abs/2610.14224 ,https://arxiv.org/abs/2610.20344 ,https://arxiv.org/abs/2610.21098 ,https://github.com/zichuanxu/tool-bottleneck-bench ,https://arxiv.org/abs/2610.22289
← 上一篇
Anthropic 每天合并三万次改动,每个 PR 只需一个人。Postgres 刚因为 AI 审查员找出的 bug 多到人修不完而推迟发版
下一篇 →
超级用户日报: 2026-10-17
← 返回所有文章

评论

加载中...
>_