读权重那篇一天就被查了账：最亮眼的 Qwen 修复，用了 Python，还跑了 50 批题
魔术师会把同一个戏法用好几种手法轮着演，你刚猜出一种，下一轮就把你的猜测拆了。spaCy 作者 Matthew Honnibal 就是这么形容《Sparks of Weight-Space Programming》的，也就是周一冲上 Hacker News 榜首的那篇 MIT 文章。周二这篇反驳拿了 829 分。
指控很具体。摘要先说“只看原始权重”，紧接着就讲 Qwen 数学修复，读者自然以为是一回事。Honnibal 列了张表，把实验一个个拆开。权重直接塞进上下文、不给工具、不跑网络，这种设定只出现在第 1、2、4 个实验，网络规模 1.7 万到 17.2 万个权重。凡是涉及真正语言模型的实验都用了 Python，Qwen 这个头条结果还能把模型拿去跑最多 50 批练习题。从零写游戏网络那条的脚注更扎心：对上训练 5 亿步的 PPO，只赢了 Breakout，517 比 25，Seaquest 和 Asterix 都输了。
Sean Goedecke 把 Qwen 的修改过程走了一遍，结论是人类 ML 研究员也会这么干。Simon Willison 则盯着确实站得住的那部分，也就是不给工具的认游戏测试，直接在笔记本上重跑。17GB 的 Qwen 3.8 27B，46 分钟认出 Pac-Man，65 分钟认出 Pong，52 分钟认出 Breakout，Freeway 没认出来。本地开源模型四中三，你可以说这更有意思了，也可以说这没那么神了，取决于你原本以为它证明了什么。Willison 的看法是，有经验的人拿个记事本也能做到。
没人质疑测出来的数字。MATH-500 从 7.9% 到 48.1% 还在那。Honnibal 也承认一两年前的模型做不到这些，HN 上还有人指出原文正文其实写明了设定，所以问题出在摘要，不在日志。倒下的是叙事，也包括我们自己的：周一那篇写 Astra 靠读权重加推理搞定、没有训练循环，这把 Python 和 50 批题写轻了。准确的说法没那么有电影感，但依然厉害：前沿模型带上工具，能在权重层面干一个合格 ML 工程师的活，小型网格世界的网络也确实能裸读。
这件事留下的习惯很简单：一个结果听起来像新能力的时候，先问它来自表格的哪一行。
Honnibal：https://honnibal.dev/blog/astra-read-write-misleading Willison：https://simonwillison.net/2026/Nov/3/qwen-can-interpret-model-weights/ Goedecke：https://www.seangoedecke.com/llms-are-not-superhuman-at-reading-and-writing-neural-network-weights/ 周一那篇：https://clauday.com/zh/article/25588d01-64f2-48c9-b773-db92733a32f0
← 返回所有文章
指控很具体。摘要先说“只看原始权重”，紧接着就讲 Qwen 数学修复，读者自然以为是一回事。Honnibal 列了张表，把实验一个个拆开。权重直接塞进上下文、不给工具、不跑网络，这种设定只出现在第 1、2、4 个实验，网络规模 1.7 万到 17.2 万个权重。凡是涉及真正语言模型的实验都用了 Python，Qwen 这个头条结果还能把模型拿去跑最多 50 批练习题。从零写游戏网络那条的脚注更扎心：对上训练 5 亿步的 PPO，只赢了 Breakout，517 比 25，Seaquest 和 Asterix 都输了。
Sean Goedecke 把 Qwen 的修改过程走了一遍，结论是人类 ML 研究员也会这么干。Simon Willison 则盯着确实站得住的那部分，也就是不给工具的认游戏测试，直接在笔记本上重跑。17GB 的 Qwen 3.8 27B，46 分钟认出 Pac-Man，65 分钟认出 Pong，52 分钟认出 Breakout，Freeway 没认出来。本地开源模型四中三，你可以说这更有意思了，也可以说这没那么神了，取决于你原本以为它证明了什么。Willison 的看法是，有经验的人拿个记事本也能做到。
没人质疑测出来的数字。MATH-500 从 7.9% 到 48.1% 还在那。Honnibal 也承认一两年前的模型做不到这些，HN 上还有人指出原文正文其实写明了设定，所以问题出在摘要，不在日志。倒下的是叙事，也包括我们自己的：周一那篇写 Astra 靠读权重加推理搞定、没有训练循环，这把 Python 和 50 批题写轻了。准确的说法没那么有电影感，但依然厉害：前沿模型带上工具，能在权重层面干一个合格 ML 工程师的活，小型网格世界的网络也确实能裸读。
这件事留下的习惯很简单：一个结果听起来像新能力的时候，先问它来自表格的哪一行。
Honnibal：https://honnibal.dev/blog/astra-read-write-misleading Willison：https://simonwillison.net/2026/Nov/3/qwen-can-interpret-model-weights/ Goedecke：https://www.seangoedecke.com/llms-are-not-superhuman-at-reading-and-writing-neural-network-weights/ 周一那篇：https://clauday.com/zh/article/25588d01-64f2-48c9-b773-db92733a32f0
评论