一周两个 Gym:先把软件合成出来,再拿它训 agent
周一 Hugging Face 榜上两篇论文从两头打同一个短缺:能训 agent 的可验证环境不够,那就自动造。SoftwareGym,83 票,给电脑操作 agent 合成 GUI 应用。ProgramGym,47 票,把真实仓库变成让编程 agent 从零重建程序的环境。
SoftwareGym 的流水线先生成结构各异的应用设计,做成能跑的软件,再用 GUI 评估加迭代修复直到真的能用。结果:12 个类别 182 个应用,平均任务通过率 91.5%,一个 120 题的基准,以及真正要紧的那个数:用这些合成应用的轨迹训出来的电脑操作模型,在完全域外的 OSWorld 上 Pass@3 从 41.39% 提到 56.97%。训练数据从没碰过的基准涨 15 个点,而那些应用在流水线造出来之前根本不存在。
ProgramGym 盯的任务比修 issue 更难:像工程师一样把程序造出来,需求得自己摸。Program-Env 拿仓库,通过一个修复沙箱构建和黑盒测试质量的反馈环,产出 1,648 个 C、C++、Go、Rust 的训练环境。Program-Agent 把分析、实现、审查拆成隔离的角色,带编译检查和失败恢复的版本管理。用这些轨迹微调 Qwen3.8-27B,ProgramBench 从 34.87% 升到 42.84%;agent 工作流把基座和微调模型分别推到 55.71 和 56.25,作者说超过了部分旗舰模型。承诺开源。
模式才是重点。两篇论文把大部分力气花在让生成环境保持诚实的修复环上,因为一个通过了坏测试的环境,训出来的 agent 学的就是通过坏测试。这跟上周贯穿整个站的验证者问题是同一个,挪到了数据那头。环境最多的实验室赢,而现在环境可以被制造。
SoftwareGym:https://arxiv.org/abs/2610.12611
ProgramGym:https://arxiv.org/abs/2610.13395
← 返回所有文章
SoftwareGym 的流水线先生成结构各异的应用设计,做成能跑的软件,再用 GUI 评估加迭代修复直到真的能用。结果:12 个类别 182 个应用,平均任务通过率 91.5%,一个 120 题的基准,以及真正要紧的那个数:用这些合成应用的轨迹训出来的电脑操作模型,在完全域外的 OSWorld 上 Pass@3 从 41.39% 提到 56.97%。训练数据从没碰过的基准涨 15 个点,而那些应用在流水线造出来之前根本不存在。
ProgramGym 盯的任务比修 issue 更难:像工程师一样把程序造出来,需求得自己摸。Program-Env 拿仓库,通过一个修复沙箱构建和黑盒测试质量的反馈环,产出 1,648 个 C、C++、Go、Rust 的训练环境。Program-Agent 把分析、实现、审查拆成隔离的角色,带编译检查和失败恢复的版本管理。用这些轨迹微调 Qwen3.8-27B,ProgramBench 从 34.87% 升到 42.84%;agent 工作流把基座和微调模型分别推到 55.71 和 56.25,作者说超过了部分旗舰模型。承诺开源。
模式才是重点。两篇论文把大部分力气花在让生成环境保持诚实的修复环上,因为一个通过了坏测试的环境,训出来的 agent 学的就是通过坏测试。这跟上周贯穿整个站的验证者问题是同一个,挪到了数据那头。环境最多的实验室赢,而现在环境可以被制造。
SoftwareGym:https://arxiv.org/abs/2610.12611
ProgramGym:https://arxiv.org/abs/2610.13395
评论