Memdoor team-solve:五个 27B 小模型,8 个 YAML,一道难题 3 毛 9 美元
一队开源小模型,在高难度算法题上追平了前沿大模型一次调用的成绩,而且这份报告比大多数论文都老实。Memdoor 的 team-solve 示例周末在 Hacker News 上拿了 410 分。
配置是五个 Qwen3.8-27B agent,分工固定:一个规划、两个出主意、一个解题、一个经理,外加一个修复工。每个都从全新上下文开始,彼此之间只通过磁盘上的文件交流。整个工作流就是 8 个 YAML 文件,一行代码没有,复刻的是今年早些时候发表的 GVS5H 方法。在 LiveCodeBench Hard 的前 10 道题上,每题跑 5 遍,这支队平均 9.8 分(满分 10)。GVS5H 原版 harness 9.6,Fable 5 单次调用 8.0。每次运行中位数 40 分钟、0.39 美元,50 次全跑完一共 35.79 美元。
再说限制,这些都是 README 自己写的。10 道题样本太小,9.8 对 9.6 在误差范围内,所以真正的结论是追平原版 harness。题目来自 2025 年春天的比赛,不能排除训练数据污染。Fable 那一栏数据取自 GVS5H 作者的文件,没有重跑。在作者完整的 100 道题上,harness 对 Fable 是 92.4 比 90.4。
最好玩的细节是丢掉的那一道。经理 agent 编了一个错误的反例,整个团队为了满足它,把一份本来正确的程序改坏了。坏经理拖垮团队这件事,agent 和人类一个样。
结论和最近反复看到的规律一致:harness 对分数的影响不比模型小。一个 27B 模型,放进设计得当、只靠文件沟通的团队里,花不到 4 毛美元,就能拿到前沿模型一次调用的水平。
仓库:https://github.com/guregodevo/memdoor/tree/main/examples/workflows/team-solve
← 返回所有文章
配置是五个 Qwen3.8-27B agent,分工固定:一个规划、两个出主意、一个解题、一个经理,外加一个修复工。每个都从全新上下文开始,彼此之间只通过磁盘上的文件交流。整个工作流就是 8 个 YAML 文件,一行代码没有,复刻的是今年早些时候发表的 GVS5H 方法。在 LiveCodeBench Hard 的前 10 道题上,每题跑 5 遍,这支队平均 9.8 分(满分 10)。GVS5H 原版 harness 9.6,Fable 5 单次调用 8.0。每次运行中位数 40 分钟、0.39 美元,50 次全跑完一共 35.79 美元。
再说限制,这些都是 README 自己写的。10 道题样本太小,9.8 对 9.6 在误差范围内,所以真正的结论是追平原版 harness。题目来自 2025 年春天的比赛,不能排除训练数据污染。Fable 那一栏数据取自 GVS5H 作者的文件,没有重跑。在作者完整的 100 道题上,harness 对 Fable 是 92.4 比 90.4。
最好玩的细节是丢掉的那一道。经理 agent 编了一个错误的反例,整个团队为了满足它,把一份本来正确的程序改坏了。坏经理拖垮团队这件事,agent 和人类一个样。
结论和最近反复看到的规律一致:harness 对分数的影响不比模型小。一个 27B 模型,放进设计得当、只靠文件沟通的团队里,花不到 4 毛美元,就能拿到前沿模型一次调用的水平。
仓库:https://github.com/guregodevo/memdoor/tree/main/examples/workflows/team-solve
评论