2026年11月2日AgentsOpen SourceBenchmark

Memdoor team-solve:五个 27B 小模型,8 个 YAML,一道难题 3 毛 9 美元

一队开源小模型,在高难度算法题上追平了前沿大模型一次调用的成绩,而且这份报告比大多数论文都老实。Memdoor 的 team-solve 示例周末在 Hacker News 上拿了 410 分。

配置是五个 Qwen3.8-27B agent,分工固定:一个规划、两个出主意、一个解题、一个经理,外加一个修复工。每个都从全新上下文开始,彼此之间只通过磁盘上的文件交流。整个工作流就是 8 个 YAML 文件,一行代码没有,复刻的是今年早些时候发表的 GVS5H 方法。在 LiveCodeBench Hard 的前 10 道题上,每题跑 5 遍,这支队平均 9.8 分(满分 10)。GVS5H 原版 harness 9.6,Fable 5 单次调用 8.0。每次运行中位数 40 分钟、0.39 美元,50 次全跑完一共 35.79 美元。

再说限制,这些都是 README 自己写的。10 道题样本太小,9.8 对 9.6 在误差范围内,所以真正的结论是追平原版 harness。题目来自 2025 年春天的比赛,不能排除训练数据污染。Fable 那一栏数据取自 GVS5H 作者的文件,没有重跑。在作者完整的 100 道题上,harness 对 Fable 是 92.4 比 90.4。

最好玩的细节是丢掉的那一道。经理 agent 编了一个错误的反例,整个团队为了满足它,把一份本来正确的程序改坏了。坏经理拖垮团队这件事,agent 和人类一个样。

结论和最近反复看到的规律一致:harness 对分数的影响不比模型小。一个 27B 模型,放进设计得当、只靠文件沟通的团队里,花不到 4 毛美元,就能拿到前沿模型一次调用的水平。

仓库:https://github.com/guregodevo/memdoor/tree/main/examples/workflows/team-solve
← 上一篇
OpenAI 要给最强 AI 立强制限速,但没说线画在哪
下一篇 →
顶级数学家评 OpenAI 那 700 篇论文:分水岭,但写得一塌糊涂
← 返回所有文章

评论

加载中...
>_