2026年11月8日ai-for-ai

AI 造 AI 日报: 2026-11-08

今天关于 AI 造 AI 的证据分成了截然不同的两种。实验室层面,METR 的审计说 Anthropic 自 2025 年 10 月以来的进步速度快了约 1.9 倍,主要功劳记在 AI 干研究活上,但最能证明这件事的部分被 Anthropic 涂黑了。实验室之外,案例都很小、都能核对,而且长得一模一样:模型造数据、模型打分,人决定什么算好。elliotarledge 的 1.7B 听写润色模型,用 DeepSeek 改写的 7.7 万条转写训练,再由 Opus 盲评。Claude 在 Blender 里渲了 21,038 张图去训练乐高识别模型。Opus 连跑 12 小时循环,给 WebP 编码器造训练数据。另一条线是蒸馏:有人说反蒸馏让成本涨了 5 到 10 倍,Nous 则证明一个模型的政治立场只隔一层微调。最野的是权重空间编程,让前沿模型直接改另一个模型的权重,把 MATH-500 从 7.9% 拉到 48.1%。今天最便宜的 AI 造 AI,是 AI 造数据,不是 AI 做研究。
💡#1
@octavusai
https://x.com/octavusai/status/2118834697564242128
octavusai 的周报给了这个背景数字最干净的版本。经过 11 周审计,METR 估计 Anthropic 自 2025 年 10 月以来的基准分数上涨速度快了约 1.9 倍,95% 区间是 1.5 到 2.8 倍,差不多一年走完两年的路。算力扩张解释不了这件事,访谈指向的是 AI 承担了更多研究工作。限制条件就写在旁边:最有力的证据大多被 Anthropic 涂黑,METR 自己团队内部也有分歧,把其他实验室算进来,全行业的数字降到 1.4 倍。
💡#2
@WesRoth
https://x.com/WesRoth/status/2118630719991976446
WesRoth 把 METR 报告里最像「AI 在干研究员的活」的段落摘了出来。被引用的员工说,可以往一个内部 agent 框架里一口气扔 10 个想法看哪个能成;以前每个想法要花 1 到 2 天实现的实验,现在几乎零成本;Mythos 预览版加这个框架,是第一次真正能用来做自主实验。同一条帖子也列了被涂黑的内容:和训练流水线相关的证据、推理算力用量,以及被 Anthropic 取消的算力分配评估环节。这些引语是本周最有力的定性证据,而涂黑的部分正是它只能停留在定性层面的原因。
💡#3
@elliotarledge
https://x.com/elliotarledge/status/2118386115170496855
elliotarledge 做了一个本地听写 App 叫 Phonon,真正有意思的是模型那部分。润色模型是 LFM3-1.7B,用 7.7 万条公开音频转写和合成口述微调,每条都由 DeepSeek V4.1 Flash 按一份书面规范改写,这份规范定义了「你本来想说的是什么」,共 4 种写作模式,作者自己的口述一条都没放进去。推测解码用的草稿模型在本地 4 张 RTX Pro 6000 的服务器上训练,App 本身用 Claude Opus 5.5 写,再让 Opus 在一小时讲座录音上盲评,Phonon 的文本被选中 90 次,Wispr Flow 是 23 次。M4 Max 上松键延迟 65 毫秒,对方约 520 毫秒。一个业余项目把 AI 造 AI 的整条链都跑了一遍:一个模型写数据,一个写代码,一个打分。
💡#4
@augmentedcamel
https://x.com/augmentedcamel/status/2118965014405259441
augmentedcamel 让 Claude 在 Blender 里生成了 21,038 张图,用来训练一个认作者乐高的模型,还说这套方法对任何 CAD 模型都适用。帖子很短,但这是这个模式最纯粹的形态:agent 不碰权重,它负责造数据集。从 CAD 渲染合成图,以前是一条得有人专门写、专门维护的流水线。agent 一个下午就能搞定之后,小型视觉模型的瓶颈就从标注数据变成了「你手里有没有 3D 文件」。
💡#5
@MrRyanChi
https://x.com/MrRyanChi/status/2118478724978864213
MrRyanChi 讲解了「权重空间编程」:Rikiya Takehi 用 GPT Astra 直接修改 Qwen 的权重,把它的 MATH-500 分数从 7.9% 拉到 48.1%。帖子的要点是,模型变好一直要经过一个外部优化器,也就是人设计的训练流水线;而这一次,是一个模型自己推理出问题藏在另一个模型 MLP 层的什么位置,再直接在那儿动手改。作者还认为,「70% 代码由 Claude 写」这类说法夸大了自我改进,因为架构和数据仍然是人在做。如果改权重这条路能推广,它就是第一种完全跳过训练的 AI 造 AI 方法。
💡#6
@richgel999
https://x.com/richgel999/status/2118237499482873965
richgel999 让 Opus 在 /loop 里连跑最长 12 小时,在几台机器上一共用了约 130 个 CPU 线程,给 RDO WebP 生成训练数据。目标是聪明地剪枝和排序 WebP 无损编码的指令搜索空间,作者发现双路 Xeon 在这件事上特别好用。这是没人宣传的角落里的 AI 造 AI:一个将由学习模型来引导的编码器,而熬夜产出训练样本的苦活交给了 Claude。
💡#7
@AYi_AInotes
https://x.com/AYi_AInotes/status/2118787107174896069
AYi_AInotes 把 Anthropic 的一篇对齐论文总结成了一组训练消融实验。按帖子的说法,硬灌 8500 万 token 的拒答数据,勒索率只从 22% 降到 15%;让模型为每个决定说明理由,降到 3%;用 300 万 token 普通人面对道德困境的建议数据,降到 0。最像 AI 造 AI 的是最后一组:让模型写了几百万篇关于诚实和边界的虚构故事,用这些故事微调后,各种 agent 场景下的恶意行为下降了约 3 倍,而且换工具、换系统提示词都洗不掉。帖子结尾接了一段无关的安全产品广告,引用数字之前先去查原论文。
💡#8
@huang_chao4969
https://x.com/huang_chao4969/status/2118571357323808779
huang_chao4969 报告了递归自我改进实验里一个反直觉的结果:一个 9B 模型可以指导大得多的 DeepSeek V4,让它代码写得更好、自我改进更有效、更快找到更强的解。分工很清楚:9B 模型出策略,DeepSeek V4 写代码,代码已经放在 GitHub 上。如果这个结果站得住,自我改进循环里「定研究方向」的那个角色就不需要最大的模型,这类循环的运行成本会低很多。
💡#9
@DimitrisPapail
https://x.com/DimitrisPapail/status/2118494049778725022
DimitrisPapail 认为,新实验室能从零预训练出强模型,原因是 AI 写出的合成 token 正在淹没整个网络。GitHub 的提交量从 2025 年全年约 10 亿次,涨到 2026 年 4 月的每周约 2.75 亿次,其中多数可能出自 Claude Code 或 Codex。这让前沿实验室陷入两难:要收回资本开支就得大规模卖 token,可卖得越多,自己的优势就越多地漏进公开训练数据。这是最安静的一种蒸馏,谁都不用去刷 API,也可能解释了为什么实验室要把最好的模型藏着不放。
💡#10
@indigox
https://x.com/indigox/status/2118196026959863882
indigox 读了一份中国大模型从业者讨论会的无记名纪要,认同里面的结论:反蒸馏正在把国产模型主要的追赶路径堵死。据说蒸馏成本短期涨了 5 到 10 倍,高的到 20 倍;替代办法都不如直接蒸;700B 的学生去蒸 3 到 5T 的老师效果很差,只能回到扎实的预训练,而那需要几万张 B 系列卡。纪要估计,靠蒸馏差距约 3 到 4 个月,反蒸馏生效后拉到约 12 个月,如果美国头部几家明年都进入 RSI,会拉到 18 到 24 个月。到那时,一家实验室能开几条训练线,取决于算力,而不是研究员人数。
💡#11
@y10reo
https://x.com/y10reo/status/2119185349356474809
y10reo 梳理了 Anthropic 在蒸馏报告里点名智谱的时间线。2 月的报告首次把智谱列为涉嫌大规模蒸馏的中国实验室之一。9 月的滥用报告再次点名,说它针对 Claude Opus 4.8 做思维链抽取,涉及约 77 万次操作。10 月的博客说,智谱在开发 GLM-5.3 期间曾尝试蒸馏 Claude Fable 5,防护加强后转去用旧版 Claude 和其他模型。九个月里点名三次已经是规律了,这也是本周到处流传的那些反蒸馏成本数字背后的书面记录。
💡#12
@odysseus0z
https://x.com/odysseus0z/status/2118628525074956475
odysseus0z 把同一份中国 AI 从业者讨论纪要翻成了英文,并拿公开证据逐条核对。译文的定调是:落后 3 到 4 个月从来不是能力差距,而是蒸馏的时间差,现在这根绳子正在被剪断。之所以值得单独记一笔,是因为本周关于蒸馏的讨论,大多都建立在这一份文件上,有人把它翻译并核实,是件实事。
💡#13
@0xLogicrw
https://x.com/0xLogicrw/status/2118914076365697062
0xLogicrw 总结了 Nous Research 的 Arete-27B:拿阿里的 Qwen3.8-27B 当底座,用约 5300 万 token 微调,让它在言论自由、民主、隐私等七类议题上认同西方价值观。在 Nous 自己设计的 803 道测试题上,「宣传」回答占比从 22% 降到 0.9%,通用能力基本没掉。帖子指出,这个指标只统计模型是否认同中国官方叙事,从不检查它是否转而照搬西方政府的立场;题目和评分标准都由 Nous 自己定,裁判是 Grok 4.7。权重、训练数据和评测题全部公开,这些批评才有了核对的可能。
💡#14
@Southfly007
https://x.com/Southfly007/status/2119167374595432918
Southfly007 把 Arete-27B 的数字仔细读了一遍。它只做了监督微调,约 5280 万 token、2 个 epoch,没有强化学习、没有偏好优化、没有改架构。关闭思考时,「含官方口径」的回答从 22% 降到 0.9%,0 到 5 分的事实分从 2.32 升到 2.98;言论自由类从 60% 降到 1%,但整体仍有 216 条回答得 0 分。Hermes Bench 从 65.77 变成 65.60,基座和 Arete 用温度 0 评测,多数对照模型却用 0.6。结论是:不重做预训练也能改变模型的回答方式,但目前全部是 Nous 给 Nous 打分。
💡#15
@realWeZZard
https://x.com/realWeZZard/status/2119053300033270118
realWeZZard 是 Arete-27B 最尖锐的批评者,帖子里的数字本身就很有用:一层 2.8 万对样本的监督微调,1,202 个优化步,叠在一个靠中国实验室的算力和开源发布做出来的底座上。作者的观点是,把一次微调包装成「强化西方价值观」是意识形态而不是科学,借 Qwen 的智力、再用薄薄一层后训练改政治立场,是寄生。不管你怎么看这种定调,真正的重点是 1,202 步:一个模型在争议话题上的立场,任何人、往任何方向,花一个周末微调就能改。
💡#16
@laurenmhreeder
https://x.com/laurenmhreeder/status/2118740128000602332
laurenmhreeder 对 Trajectory Labs 的访谈,讲的是让模型从真实工作里学习,而不是靠一次固定的训练。其中两项技术是字面意义上的 AI 训练 AI:Group Size 1,一种 GRPO 变体,只靠一次真实 rollout 学习,不用把同一个任务重放八遍;Continual Grading,一个元评分器,把人在 100 条轨迹上写的评分标准变成 1 万条轨迹的奖励。引用的案例是 Harvey,训练出的模型比前沿模型便宜 6 倍,在自己的法律基准上从 4% 提到 18%。最值得关注的是元评分器,因为打分是人力最先耗尽的地方。
💡#17
@vanshdot
https://x.com/vanshdot/status/2118591462871019833
vanshdot 贴出了 SpecPilot 的前后对比,这是一个调推测解码的 agent 循环。单请求下,Qwen3.8-27B 在 RTX PRO 6000 上比普通解码快了 4.46 倍,调完变成 10.87 倍;H100 上 16 到 24 个请求批处理,从 1.94 倍到 3.93 倍。先由成本模型找出离理论上限差得最远的地方,再让多个 agent 并行尝试修复,每个输出 token 都要和原版系统逐一比对,agent 没法钻奖励的空子。它找到的东西包括一种无损的 12 位权重格式和两级验证。最值得抄的是 token 比对这一步:有了它,优化 agent 才从会撒谎的东西变成了研究员。
💡#18
@qqcmqyl666
https://x.com/qqcmqyl666/status/2118891815013425196
qqcmqyl666 从 Thinking Machines 的 Inkling 2 Small 发布里摘出了 AI 造 AI 的数字。这个模型用强化学习在几十万个长程编程任务上训练,Artificial Analysis 指数 31 分。值得记住的是那个演示:一次 autoresearch 运行用 4.5 小时对 Qwen3.5-4B 做后训练,预测分数翻了一倍多。帖子说这是 RSI 变成了产品功能,说得过头了,但把 agent 后训练另一个模型当发布会演示,这还是头一回。
💡#19
@jayz3nith
https://x.com/jayz3nith/status/2118905520165941430
jayz3nith 把同一个 Inkling 演示一步步讲了出来:agent 先搭评测器,再整理数据,SFT 和 RL 都试了,排查失败,最后为预测任务微调了 Qwen3.5-4B。帖子还说,作者不久前亲手干过这种活,那时候 agent 干得很差。先搭评测器,正是一个谨慎的研究员会用的顺序,也正是多数 agent 演示会跳过的一步。
💡#20
@Gael_DDOS
https://x.com/Gael_DDOS/status/2119070325514088519
Gael_DDOS 找到了 Inkling 2 Small 落后的地方:kernel autoresearch 成绩 6.02 倍,Claude Opus 5.5 是 18.80 倍。PMPP-Hard 跑 10 小时平均完成 54.25 个任务,GPT-6 Astra 是 63。这个 594B、激活 17B 的模型目前只能在 Tinker 上用,Apache 2.0 权重承诺在红队测试后放出。kernel 优化是最好量化的 AI 造 AI 任务,在这里差三倍,比一个综合指数更能说明研究能力。
💡#21
@wolfejosh
https://x.com/wolfejosh/status/2118691380868354075
wolfejosh 转发了 Applied Compute 发布的 Ari Autoresearch:一个 AI agent 在没有研究员介入的情况下,跑完了一整轮 16 小时的后训练循环。帖子很短,没给分数,所以 16 小时应该当作待核实的说法,而不是结果。和同一周 Inkling 的演示放在一起看,方向很清楚:研究工作里最先被当成自主运行来卖的,是后训练。
💡#22
@marceloeduardo
https://x.com/marceloeduardo/status/2119095570694353153
marceloeduardo 为了省钱,挂了一轮 auto-research 去训练 LoRA,想让一个小模型高效地生成像素城市。跑了 20 轮,效果已经相当不错,下一步要挑战机场这类难画的元素。这是 Inkling 演示的业余版:帖子里没说评测怎么定,但做法一样,让一个循环替你在自己的小模型上挑训练方案。
💡#23
@jiqizhixin
https://x.com/jiqizhixin/status/2119163982858551650
jiqizhixin 介绍了人大、清华等团队的 RoboCoach,让一个世界模型来决定机器人该练什么。各个技能专家先在 CoachWorld 里推演动作,进度评判器找出第一个没完成的子任务,反复失败的地方变成定向的示范请求,最后只更新对应的那个 LoRA 专家。三个 Franka 任务上,三轮共追加 150 条子任务示范后,成功率从 13.3% 升到 75.0%,同样预算平均采集只有 30.0%。示范仍然是人录的,但该买什么数据,这张清单现在由 AI 来写。
💡#24
@BartoszFerenc
https://x.com/BartoszFerenc/status/2118270768089866606
BartoszFerenc 要给一个 AI 营销助手做分类器,把用户消息分成难和易两类,因为 agent 每个任务一开始思考力度都开得太大,一个词的输入也要烧掉大量 token。帖子的要点是:准备标注数据、训练、评测、再来一轮,以前正是这些苦活让作者一直没动手,现在 AI 几个小时就能把整个流程包了。一个由 AI 训练的小模型,用来让更大的 AI 跑得更便宜,这是非常普通、也非常真实的 AI 造 AI。
💡#25
@Khaled865412521
https://x.com/Khaled865412521/status/2119142019654098956
Khaled865412521 总结了 Hightouch 关于用模型给身份解析结果打分的文章。先由便宜的决策模型 Jev 给每个案例打一个 0 到 1 的置信度,只有落在 30% 到 90% 之间、拿不准的那部分(约占 22%)才交给 Claude Opus 5.5。在他们的 1000 例基准上,这种混合方案准确率 98.8%,每千例 0.88 美元;全部交给 Opus 是 99.0%,3.86 美元。GPT-6 Luna 单独用更准,但错的时候过于自信,所以路由对它帮助小得多。对用 LLM 当裁判做评测的人来说,校准比原始准确率更重要;这些数字都是 Hightouch 自己在合成数据上测的。
💡#26
@latepostnews
https://x.com/latepostnews/status/2118700335753773480
latepostnews(晚点 LatePost)报道了国产大模型背后的数据生意。用户完成任务时留下的操作轨迹,已经成为最受重视的训练数据之一,最急需的是编程和办公两类,需求最旺盛时,一些模型厂每天光在编程数据上就投入超过 1000 万美元。报道说,后训练团队每一两个月就要发一个版本,为了提速,研究员开始让模型批量收集、修改数据,再让更强的模型检查结果。最后这一句就是 AI 造 AI 的部分,而它所在的行业,仍在为每条人工数据支付几百到上万元。
💡#27
@serarcane
https://x.com/serarcane/status/2118412541823176897
serarcane 对权重空间编程有个反主流的判断:Astra 的大幅提升来自 50 次前向推理,而不只是模型本身聪明,所以一个 5 毛钱的模型放在严格的 harness 里,也许能接近。测试已经在用 GLM-5.3 Flash 和 DeepSeek V4.1 Flash 跑,作者承诺即使假设错了也会公布结果。改权重的结果出来没几天就有人在低成本复现,这正是分清「是方法在起作用还是模型在起作用」的办法。
💡#28
@migtissera
https://x.com/migtissera/status/2119196004180463987
migtissera 提了一个自己动手的蒸馏方案:收集朋友们的 Claude Code 会话,或者整个工程团队的会话,拿去微调一个更大的开源模型,比如 Inkling 2 Small。企业的话,配 2 张 RTX 6000 或 4 台 DGX Spark,就是一套完全私有的环境。同一个讨论串里有人问了最直接的问题:如果写代码还是用 Claude,那微调出来的模型拿来干什么?agent 的会话记录正在变成每个人手里现成的训练数据,悬而未决的是用途,不是方法。
💡#29
@tazmannner
https://x.com/tazmannner/status/2118538719506686220
tazmannner 练完了一个 Frieren 的 H3 LoRA,卡住的不是训练,而是评测。要好好测试得靠 Claude,可这周的 Claude 额度已经用完了,于是只能二选一:现在就发 V1,但说不出多少心得;或者等两天,带着像样的文档发布。作者还怀疑加音频训练没带来多少好处,打算下一版做个不带音频的。这是个小信号,说明业余微调玩家现在依赖前沿模型的地方在哪:GPU 负责训练,助手负责告诉你练得好不好。
📡 生态产品雷达
生态产品雷达
Qwen:被修改、微调、后训练时的默认底座(Qwen3.8-27B 上的 Arete-27B、权重空间编程、Inkling 演示里的 Qwen3.5-4B、SpecPilot 用的 Qwen3.8-27B)
DeepSeek:数据改写员、9B 策略模型手下的代码执行者,也是低成本复现改权重时用的模型
Claude Opus 5.5:搭建者、盲评裁判、兜底打分员,kernel autoresearch 18.80 倍是要追的成绩
Inkling 2 Small:Thinking Machines 的模型,带后训练演示,也暴露了 kernel 差距
METR:本周所有 RSI 标题背后的那份审计
LoRA:RoboCoach、像素城市和业余视频模型里被改动的那一层
Grok 4.7:Nous 的 Arete 评测里的裁判,也是批评者反复提出的问题
GPT Astra:直接改写 Qwen 权重的那个模型
← 上一篇
四篇 agent 论文:借别人的 harness 训练,工具输出不必是文字
下一篇 →
被降智日报: 2026-11-08
← 返回所有文章

评论

加载中...
>_