2026年11月8日ResearchRLBenchmark

四篇 agent 论文:借别人的 harness 训练,工具输出不必是文字

周末 arXiv 不出新批次,所以这是周五那堆里最好的四篇,共同主题是:模型周边的东西。

Harness-S(arXiv 2611.04277,Hugging Face 63 赞,这批里最热的 agent 论文)把「harness 很重要」这件事带进了训练。从同一个底座演化出来的 harness 变体,各自修的是不同的失败,哪个有用还会随着策略学习而变。所以作者不去找一个最好的 harness,而是维护一个固定的「兄弟 harness 池」,只在基础 harness 下所有 rollout 都失败时才动用。同一个策略在兄弟 harness 下重试,这些轨迹替换掉失败的那组拿去做 RL。训练完的策略回到原来的 harness 上,作者说在 AppWorld、SWE-Gym 和 DBBench 上明显好过只训策略。摘要里没给具体数字,引用提升幅度之前先读正文。

Coca-Cola(2611.06500,清华 THU-Agent)问了一个好问题:agent 为什么非得把工具输出当文字读?它把观察结果压缩成潜在 token,直接塞进 agent 的嵌入空间,训练目标是让 agent 的下一步动作跟读全文时一样。作者报告在两个模型家族、四个网页搜索问答基准上,token 少了 70% 到 89%,端到端时间少了 24% 到 56%,准确率还提高了。代码在 GitHub 上。目前只测了问答,写代码、操作浏览器能不能成立还不知道。

VisSearch-Bench(2611.04894)负责泼冷水:204 道人工写的题,agent 得把图片细节、物体、空间关系跟网页搜索结果串起来。16 个多模态模型里,最好的也只完整做对 26.47%,还是带着搜索工具的。

TB-MathModel(2611.08237)把真实的数学建模竞赛题变成终端任务,加了一道硬性可行性闸门,里面有 624 个 Lean 4 证明义务,物理上不可能的答案直接记零分。最高 64.58%,一个只花 2.54 美元的开源模型拿到 59.81%,成本约百分之一。用可行性校验代替 LLM 评委打分,这一点值得抄。

所有数字都来自论文摘要,没有第三方复现。

Harness-S:https://arxiv.org/abs/2611.04277
Coca-Cola:https://arxiv.org/abs/2611.06500
VisSearch-Bench:https://arxiv.org/abs/2611.04894
TB-MathModel:https://arxiv.org/abs/2611.08237
← 上一篇
CesiumAstro 完成 7.3 亿美元 D 轮,另有 Harbinger、Future Secure AI、Humble Robotics、Anaheim Bio
下一篇 →
AI 造 AI 日报: 2026-11-08
← 返回所有文章

评论

加载中...
>_