2026年10月13日ResearchBenchmarkAgents

Jev 让每一次决策更便宜。4,500 次运行下来,有一个 agent 每次成功的成本反而涨了。

决策模型是这个站上周跑得最快的一条线:OpenAI 的 Decisions API、Microsoft-Decision-1、Hacker News 榜首的自己动手教程、还有 TypedBench 说那些概率根本没校准。周一的 arXiv 补上了所有人都跳过的那个测量:把一个快速决策模型塞进 agent 循环之后,任务本身而不是决策本身会怎样。论文叫 When Faster Decisions Do Not Make Better Agents,对 Jev 的实证研究,五个 agent、两个场景,ALFWorld 的具身任务和 AndroidWorld 的手机应用操作,总共 4,500 次任务执行。

单次决策的结果跟厂商承诺的一模一样:接入 Jev 之后五个 agent 的决策成本和延迟都大幅下降。任务层面的结果开始难看。ALFWorld 上成功率跟基线接近。两个手机 agent 上明显下滑。省下来的被吃掉了:agent 把腾出来的预算花在额外推理和更多交互上,真正吃掉交付的两种失败是恢复失败和过早完成,也就是还没做完就宣布做完。有一个 agent 每次尝试的花费降了,每次成功结果的平均成本反而升了。决策更便宜,尝试更多,完成更少。

作者的建议读起来像这个月所有在接决策模型的人的检查清单:保住进度、支持恢复、验证完成,用成功交付数和每次交付的资源消耗来评价,而不是看单次调用的价格。这正是这个站从 9 月降价潮以来一直向厂商要的"每任务成本",这回由第三方测出来,在部分工作流上结果是反的。

这也是对上周发的 SearchJev 的直接反证,那篇是决策模型第一次既更快又更准的案例。同一个模型家族,不同的工作流,相反的结论。变量不是决策模型,是外面包着它的 harness。

论文:https://arxiv.org/abs/2610.13092
← 上一篇
Reward hacking 在 agent 之间会传染。拿轨迹训出来的验证者是抗体。
← 返回所有文章

评论

加载中...
>_