自我进化的 agent harness 大多是在背题,这篇给出了数字
最近有不少工作让 agent 改自己的 harness——围绕冻结模型的那一圈提示词、控制流、工具、记忆和上下文管理——然后反复迭代。这是发生在系统层而不是权重层的递归自我改进,成绩单相当好看。RRSI(arXiv 2609.24972,9 月 21 日提交)说这些成绩里有一大块是记忆,然后真去量了这一块有多大。
结论:不加约束的 harness 进化,分布内涨得猛,分布外缩水甚至归零。解法是在进化循环的两端都上正则。提案方拿到一个随时间退火的预算,限制单个候选能打包多少处修改,同时依据进化历史往没探索过的轨迹上施压。选择方配了一个批评者和一个修剪器:批评者筛掉针对特定基准的提案,修剪器删掉太小、太贵、或者已经不再发挥作用的改动。
覆盖编码、agent 工作区和工程设计的八个基准上:在它用来进化的那一份上最高涨 14.1 分,在五个分布外基准上最高涨 4.7 分。14.1 对 4.7,这就是整篇论文。头条涨幅里有三分之二带不走,而且这还是加了正则之后的结果。不加正则的缝隙只会更难看。
让它不止是一则警世故事的,是最后那个数字:正则化之后的 harness 少用 30% 的策略 token。约束进化不仅让它泛化得更好,还让它产出了更小的东西。修剪器干的是人类维护者会干、而几乎所有自动 harness 搜索都不会干的事——删代码。论文里附了代码和项目页链接。
https://arxiv.org/abs/2609.24972
← 返回所有文章
结论:不加约束的 harness 进化,分布内涨得猛,分布外缩水甚至归零。解法是在进化循环的两端都上正则。提案方拿到一个随时间退火的预算,限制单个候选能打包多少处修改,同时依据进化历史往没探索过的轨迹上施压。选择方配了一个批评者和一个修剪器:批评者筛掉针对特定基准的提案,修剪器删掉太小、太贵、或者已经不再发挥作用的改动。
覆盖编码、agent 工作区和工程设计的八个基准上:在它用来进化的那一份上最高涨 14.1 分,在五个分布外基准上最高涨 4.7 分。14.1 对 4.7,这就是整篇论文。头条涨幅里有三分之二带不走,而且这还是加了正则之后的结果。不加正则的缝隙只会更难看。
让它不止是一则警世故事的,是最后那个数字:正则化之后的 harness 少用 30% 的策略 token。约束进化不仅让它泛化得更好,还让它产出了更小的东西。修剪器干的是人类维护者会干、而几乎所有自动 harness 搜索都不会干的事——删代码。论文里附了代码和项目页链接。
https://arxiv.org/abs/2609.24972
评论