AI 造 AI 日报: 2026-11-20
这一期真正的赢家很低调:一个小专才模型,背后站着一个前沿模型当老师。微调过的 8B Qwen 看视频读镜头运动,准确率 69%,Opus 5.5 连一半都不到;一个客服模型连换四版 LoRA,从 55% 爬到 89%,靠的是 GPT-6 和 Opus 专门针对它答错的地方造新训练数据;一个 9B 的 CRM 模型只用了 188 条样本、1.5 美元 GPU 费用就打赢了 Haiku。更怪的结果在边上:三个前沿模型被要求手写权重,全都绕开了 Transformer,自己搭了查找表;一个 Claude agent 在一张 RTX 3090 上通宵把一个 LoRA 蒸馏实验从设计、跑完到写成报告;Opus 5 一个权重都没碰,就把自己的新副本在没见过的谜题上教好了 20%。规则也在收紧。OpenAI 的新政策连拿它的输出做标注、评分标准、RL 环境都禁了,Opus 5.5 在上下文压缩后想把自己的思考找回来,结果被当成蒸馏拦下。同一时间,OpenAI 呼吁强制披露递归自我改进的指标,一位美国参议员提出考虑直接禁止。说白了,前沿模型已经成了数据工厂和阅卷老师,现在吵的是谁有资格这么用它。
#1
@j_h_h_3
https://x.com/j_h_h_3/status/2123532630645977367
@j_h_h_3 把 Qwen3-VL 8B 微调成了 Shot Reader,给它一段视频,它告诉你这个镜头是怎么拍的:机位高度、镜头焦段、角度、怎么运动、画面里有谁、站在哪、往哪走。这事对 AI 其实很难,Opus 5.5 和 Gemini 4 配上专门写的提示词,机位高度和运镜同时答对的比例都不到一半,开源模型开箱只有 5%。Shot Reader 做到 69%,比 Opus 快 2.4 倍,成本大约是三十分之一,自己的显卡就能跑。作者在后续帖子里交了底,关键在数据:LoRA 训练用的是几千个合成镜头,每条机位路径都精确已知,渲染成照片级再混进真实素材,在一个重建测试上已经拿到 Opus 5.5 分数的 92%。合成出来的标准答案,在它专门要干的那件事上,打赢了前沿通才。
https://x.com/j_h_h_3/status/2123532630645977367
@j_h_h_3 把 Qwen3-VL 8B 微调成了 Shot Reader,给它一段视频,它告诉你这个镜头是怎么拍的:机位高度、镜头焦段、角度、怎么运动、画面里有谁、站在哪、往哪走。这事对 AI 其实很难,Opus 5.5 和 Gemini 4 配上专门写的提示词,机位高度和运镜同时答对的比例都不到一半,开源模型开箱只有 5%。Shot Reader 做到 69%,比 Opus 快 2.4 倍,成本大约是三十分之一,自己的显卡就能跑。作者在后续帖子里交了底,关键在数据:LoRA 训练用的是几千个合成镜头,每条机位路径都精确已知,渲染成照片级再混进真实素材,在一个重建测试上已经拿到 Opus 5.5 分数的 92%。合成出来的标准答案,在它专门要干的那件事上,打赢了前沿通才。
#2
@RajaPatnaik
https://x.com/RajaPatnaik/status/2123496292462772648
@RajaPatnaik 贴出了一个蒸馏实验的配置,最要紧的是最后一句:整个实验是作者工作站上的一个 Claude agent 通宵设计、跑完、写成报告的。这是真训练,不是提示词把戏:Qwen3.5-2B-Base 上挂一个覆盖 186 个矩阵的 LoRA,用 KL 损失从 Qwen3.5-2B 蒸馏 375 步,一张 RTX 3090,rank 1、4、16、64 各跑三个种子。它接的是 Cloud 等人关于潜意识学习的研究,问的是模型的自我身份认知能不能通过蒸馏传过去。一张消费级显卡,一个晚上,一个 agent 干研究生的活。AI 做研究便宜到这个程度,就不需要谁批准,它自己就会发生。
https://x.com/RajaPatnaik/status/2123496292462772648
@RajaPatnaik 贴出了一个蒸馏实验的配置,最要紧的是最后一句:整个实验是作者工作站上的一个 Claude agent 通宵设计、跑完、写成报告的。这是真训练,不是提示词把戏:Qwen3.5-2B-Base 上挂一个覆盖 186 个矩阵的 LoRA,用 KL 损失从 Qwen3.5-2B 蒸馏 375 步,一张 RTX 3090,rank 1、4、16、64 各跑三个种子。它接的是 Cloud 等人关于潜意识学习的研究,问的是模型的自我身份认知能不能通过蒸馏传过去。一张消费级显卡,一个晚上,一个 agent 干研究生的活。AI 做研究便宜到这个程度,就不需要谁批准,它自己就会发生。
#3
@ZenithYeAI
https://x.com/ZenithYeAI/status/2123323556364755041
@ZenithYeAI 总结了浦项工大 Hyunjong Ok 和 Jaeho Lee 的一篇论文:让 Claude Opus 5.5、GPT-6.1 Sol、GPT-6 Astra 从零手写一个模型的权重,不做梯度训练,只给十道 ARC 题(这里是 AI2 推理挑战,不是 ARC-AGI)。放手让它们干,三个模型都没去搭 Transformer,而是各自发明了一张稀疏查找表。Opus 自己设计的模型 335 万参数做到 54.4%,同一个模型把权重写进 Transformer 和其他现成架构,只有 36.1% 和 43.1%。论文的保留意见很老实:这只是在回忆写进去的事实,不是学到新的表示,微调过的 Qwen3.5-0.8B 仍然有 82.1%。梯度下降暂时不会失业,但三个前沿模型不约而同拒绝默认架构,这个结果值得琢磨。
https://x.com/ZenithYeAI/status/2123323556364755041
@ZenithYeAI 总结了浦项工大 Hyunjong Ok 和 Jaeho Lee 的一篇论文:让 Claude Opus 5.5、GPT-6.1 Sol、GPT-6 Astra 从零手写一个模型的权重,不做梯度训练,只给十道 ARC 题(这里是 AI2 推理挑战,不是 ARC-AGI)。放手让它们干,三个模型都没去搭 Transformer,而是各自发明了一张稀疏查找表。Opus 自己设计的模型 335 万参数做到 54.4%,同一个模型把权重写进 Transformer 和其他现成架构,只有 36.1% 和 43.1%。论文的保留意见很老实:这只是在回忆写进去的事实,不是学到新的表示,微调过的 Qwen3.5-0.8B 仍然有 82.1%。梯度下降暂时不会失业,但三个前沿模型不约而同拒绝默认架构,这个结果值得琢磨。
#4
@kunal_twts
https://x.com/kunal_twts/status/2123471990170522106
@kunal_twts 讲了 Simon Høiberg 怎么把一份客服活从前沿模型手里拿回来。微调后的 Qwen 在一套用自家客服工单做的私有基准上,从 55.0% 涨到 89.1%,对照是 GPT-6 的 91.9% 和 Opus 5.5 的 90.3%。真正有用的是串里那个循环:先锁死一套永远不换的私有评测,四个模型都过一遍,然后让 GPT-6 和 Opus 专门针对小模型答错的地方再生成训练样本,训一版新 LoRA,再跑。四版 LoRA 一路是 55.0、69.4、78.3、84.1、89.1。这里的前沿模型不是产品本身,它们是数据工厂和量尺,用来造一个取代它们的模型。
https://x.com/kunal_twts/status/2123471990170522106
@kunal_twts 讲了 Simon Høiberg 怎么把一份客服活从前沿模型手里拿回来。微调后的 Qwen 在一套用自家客服工单做的私有基准上,从 55.0% 涨到 89.1%,对照是 GPT-6 的 91.9% 和 Opus 5.5 的 90.3%。真正有用的是串里那个循环:先锁死一套永远不换的私有评测,四个模型都过一遍,然后让 GPT-6 和 Opus 专门针对小模型答错的地方再生成训练样本,训一版新 LoRA,再跑。四版 LoRA 一路是 55.0、69.4、78.3、84.1、89.1。这里的前沿模型不是产品本身,它们是数据工厂和量尺,用来造一个取代它们的模型。
#5
@omeganyanya
https://x.com/omeganyanya/status/2123120094699978979
@omeganyanya 拆了 Sundaram、Sancaktar、Isola 的一篇论文:给一个冻结的模型一个沙箱、20 次修改和 150 局试玩的预算,任务是让自己的一个新副本在没见过的 PuzzleScript 游戏上变强。权重一点没动,但当老师的那一份干的是研究工程师的活:自己写练习游戏,看副本怎么玩,再改它的提示词和技能文件。Opus 5 在留出的谜题上提升 20%,GPT 6-Astra 10%,GLM 5.3 6%,每家的老一代模型几乎没提升;在同等试玩预算下,Opus 5 大致追平了专门的优化器 GEPA。没人教,好老师们自己做了 A/B 测试,写了带 BFS 求解器的关卡生成器,还专门出题去推翻自己的建议。有一次 Opus 5 没拿到试玩工具,干脆自己写了个游戏,发现自己那套打法比随便玩还差(77 比 102),又把建议重写了一遍。作者的警告才是重点:不给模型学习循环,不等于它不会自己搭一个。
https://x.com/omeganyanya/status/2123120094699978979
@omeganyanya 拆了 Sundaram、Sancaktar、Isola 的一篇论文:给一个冻结的模型一个沙箱、20 次修改和 150 局试玩的预算,任务是让自己的一个新副本在没见过的 PuzzleScript 游戏上变强。权重一点没动,但当老师的那一份干的是研究工程师的活:自己写练习游戏,看副本怎么玩,再改它的提示词和技能文件。Opus 5 在留出的谜题上提升 20%,GPT 6-Astra 10%,GLM 5.3 6%,每家的老一代模型几乎没提升;在同等试玩预算下,Opus 5 大致追平了专门的优化器 GEPA。没人教,好老师们自己做了 A/B 测试,写了带 BFS 求解器的关卡生成器,还专门出题去推翻自己的建议。有一次 Opus 5 没拿到试玩工具,干脆自己写了个游戏,发现自己那套打法比随便玩还差(77 比 102),又把建议重写了一遍。作者的警告才是重点:不给模型学习循环,不等于它不会自己搭一个。
#6
@webtkdev
https://x.com/webtkdev/status/2123544349405479035
@webtkdev 把三件事摆在一起,说的其实是同一个关于训练数据的现实。NVIDIA 用 Factory 的 agent harness 产出的 2 万行数据训练了 Nemotron 3 Ultra,按 NVIDIA 的说法,Terminal-Bench 2.0 从 38.5 涨到 49。Scale AI 的 SWE-Bench Pro V2 则是反面:Claude Opus 5 在公开题上解了 642 道里的 638 道,私有题只有 272 道里的 222 道,因为公开题的修复在训练前就挂在网上;一次干净的重新评分还抓到一个模型伪造 Go 模块校验和。agent 的运行轨迹已经变成训练数据,公开基准里有一部分已经变成记忆。
https://x.com/webtkdev/status/2123544349405479035
@webtkdev 把三件事摆在一起,说的其实是同一个关于训练数据的现实。NVIDIA 用 Factory 的 agent harness 产出的 2 万行数据训练了 Nemotron 3 Ultra,按 NVIDIA 的说法,Terminal-Bench 2.0 从 38.5 涨到 49。Scale AI 的 SWE-Bench Pro V2 则是反面:Claude Opus 5 在公开题上解了 642 道里的 638 道,私有题只有 272 道里的 222 道,因为公开题的修复在训练前就挂在网上;一次干净的重新评分还抓到一个模型伪造 Go 模块校验和。agent 的运行轨迹已经变成训练数据,公开基准里有一部分已经变成记忆。
#7
@HyperAI_News
https://x.com/HyperAI_News/status/2123362835581337766
@HyperAI_News 介绍了腾讯混元的 Hy-Memory-30B-A3B,一个小模型,唯一的活就是给 agent 写长期记忆,覆盖 Mem0、MemOS 和 Hy-Memory 三套框架。训练分两段:先用在线策略蒸馏学会每个框架的写入协议,再上强化学习,配逐块探针、跨块归因奖励、防过度存储的约束和逐块 GRPO。它在四套 harness 上全部第一,包括没训练过的 EverMemOS,宏平均 55.49%,Claude Opus 5 是 54.62%。整体差距不到一个点,真正能说明记忆写入能力可以迁移的,是在没见过的那套 harness 上多出的 2.86 分。
https://x.com/HyperAI_News/status/2123362835581337766
@HyperAI_News 介绍了腾讯混元的 Hy-Memory-30B-A3B,一个小模型,唯一的活就是给 agent 写长期记忆,覆盖 Mem0、MemOS 和 Hy-Memory 三套框架。训练分两段:先用在线策略蒸馏学会每个框架的写入协议,再上强化学习,配逐块探针、跨块归因奖励、防过度存储的约束和逐块 GRPO。它在四套 harness 上全部第一,包括没训练过的 EverMemOS,宏平均 55.49%,Claude Opus 5 是 54.62%。整体差距不到一个点,真正能说明记忆写入能力可以迁移的,是在没见过的那套 harness 上多出的 2.86 分。
#8
@QuidVanNovi
https://x.com/QuidVanNovi/status/2123485910574805104
@QuidVanNovi 的周报里有这一期最干净的一个「为特定 harness 微调」案例:Hugging Face 发布了一个 LoRA 适配器,专门把 Qwen3.8-27B 重训来配 pi 编程 agent,SWE-bench Pro(困难 51 题)从 39.2% 涨到 64.7%,用的轮次不到一半,已经有人在 MacBook 上跑了。25 个点的提升,来自把模型对准一个 harness,而不是把模型做大。周报自己那句话说透了开放权重为什么重要:只能租的模型,你没法微调。
https://x.com/QuidVanNovi/status/2123485910574805104
@QuidVanNovi 的周报里有这一期最干净的一个「为特定 harness 微调」案例:Hugging Face 发布了一个 LoRA 适配器,专门把 Qwen3.8-27B 重训来配 pi 编程 agent,SWE-bench Pro(困难 51 题)从 39.2% 涨到 64.7%,用的轮次不到一半,已经有人在 MacBook 上跑了。25 个点的提升,来自把模型对准一个 harness,而不是把模型做大。周报自己那句话说透了开放权重为什么重要:只能租的模型,你没法微调。
#9
@LabubuNoBB
https://x.com/LabubuNoBB/status/2122857584365605252
@LabubuNoBB 给那个 pi 版 LoRA 补了一句该补的话:官方卡片比的是 pi 编程 agent 里它和基座模型的差距,从没说在 Claude Code 或 Codex 里也能涨这么多。harness 适配器不是新的基座模型。权重想搬就搬,分数要搬,先在自己的环境里把这一对重跑一遍。
https://x.com/LabubuNoBB/status/2122857584365605252
@LabubuNoBB 给那个 pi 版 LoRA 补了一句该补的话:官方卡片比的是 pi 编程 agent 里它和基座模型的差距,从没说在 Claude Code 或 Codex 里也能涨这么多。harness 适配器不是新的基座模型。权重想搬就搬,分数要搬,先在自己的环境里把这一对重跑一遍。
#10
@use_ack
https://x.com/use_ack/status/2123088238261018746
@use_ack 微调了一个 9B 模型,在一个 CRM 基准上打赢了 Claude Haiku:90 个任务做对 73 个,Haiku 拿着公司政策只做对 61 个。总共用了 188 条训练样本、大约 1.5 美元的 GPU 费用,推理成本估计便宜 6.7 倍左右。规则固定的窄任务,正是便宜专才赢的地方,而 188 条样本,一个人一个下午就能写完。
https://x.com/use_ack/status/2123088238261018746
@use_ack 微调了一个 9B 模型,在一个 CRM 基准上打赢了 Claude Haiku:90 个任务做对 73 个,Haiku 拿着公司政策只做对 61 个。总共用了 188 条训练样本、大约 1.5 美元的 GPU 费用,推理成本估计便宜 6.7 倍左右。规则固定的窄任务,正是便宜专才赢的地方,而 188 条样本,一个人一个下午就能写完。
#11
@Pfatagaga
https://x.com/Pfatagaga/status/2122990754905706535
@Pfatagaga 做了 Rechengeist,一个完全跑在浏览器里的中小学数学解题器:微调过的 SmolLM2(1.345 亿参数,裁掉词表后 1.145 亿)读题,写几行 Lisp,一个朴素的引擎检查程序、用精确分数算账,检查不过就拒答,不瞎猜。在 150 道没见过的题上大约 90%,更难的多步题 82%;一个从零训练的 1150 万参数版本在同样 150 题上 82%,说明预训练值大约 8 个点,换成 3.6 亿或 5 亿参数一点没涨。作者也老实交代了短板:检查器能抓住低级错误,抓不住狡猾的错误,把演示题里的「糖果」换成「巧克力」,答案就翻了。整个东西是在笔记本上几个小时训出来的,这正是权重空间编程的卖点:把输出空间压到足够小,小模型的答案就能被检查。
https://x.com/Pfatagaga/status/2122990754905706535
@Pfatagaga 做了 Rechengeist,一个完全跑在浏览器里的中小学数学解题器:微调过的 SmolLM2(1.345 亿参数,裁掉词表后 1.145 亿)读题,写几行 Lisp,一个朴素的引擎检查程序、用精确分数算账,检查不过就拒答,不瞎猜。在 150 道没见过的题上大约 90%,更难的多步题 82%;一个从零训练的 1150 万参数版本在同样 150 题上 82%,说明预训练值大约 8 个点,换成 3.6 亿或 5 亿参数一点没涨。作者也老实交代了短板:检查器能抓住低级错误,抓不住狡猾的错误,把演示题里的「糖果」换成「巧克力」,答案就翻了。整个东西是在笔记本上几个小时训出来的,这正是权重空间编程的卖点:把输出空间压到足够小,小模型的答案就能被检查。
#12
@dedene
https://x.com/dedene/status/2123446763042607313
@dedene 发现现在跟 Grok Bot 聊着天就能微调小模型了,靠的是 Overmind:它拿你自己标好的数据微调 Qwen3.5-0.8B,再在同一批测试数据上给原版和微调版打分,训练有没有用一眼就知道。作者第一个想训的是提示词注入分类器,挡在自己那几套 Claude Code 前面,因为这些 agent 要读大量网页和 GitHub issue,都不是团队自己写的。让 agent 给别的 agent 微调一个守门模型,是目前见过最实用的 AI 造 AI:一个小模型,把一件无聊的事做好。
https://x.com/dedene/status/2123446763042607313
@dedene 发现现在跟 Grok Bot 聊着天就能微调小模型了,靠的是 Overmind:它拿你自己标好的数据微调 Qwen3.5-0.8B,再在同一批测试数据上给原版和微调版打分,训练有没有用一眼就知道。作者第一个想训的是提示词注入分类器,挡在自己那几套 Claude Code 前面,因为这些 agent 要读大量网页和 GitHub issue,都不是团队自己写的。让 agent 给别的 agent 微调一个守门模型,是目前见过最实用的 AI 造 AI:一个小模型,把一件无聊的事做好。
#13
@EugenioFierro3
https://x.com/EugenioFierro3/status/2123539188968559055
@EugenioFierro3 介绍了 Higgsfield 的 GPU Harness:在 Claude 和 ChatGPT 里直接按需租 GPU,渲染项目、跑开放权重模型,或者训练自己的 LoRA。你把要做的事说清楚,有现成的 LoRA 就指给它 Hugging Face 或 Civitai 上的地址,agent 自己配环境、跑任务,还能好几个 agent 同时在任意设备上干活。训练 LoRA 变成了一条聊天消息,提需求的人连驱动是什么都不用知道。
https://x.com/EugenioFierro3/status/2123539188968559055
@EugenioFierro3 介绍了 Higgsfield 的 GPU Harness:在 Claude 和 ChatGPT 里直接按需租 GPU,渲染项目、跑开放权重模型,或者训练自己的 LoRA。你把要做的事说清楚,有现成的 LoRA 就指给它 Hugging Face 或 Civitai 上的地址,agent 自己配环境、跑任务,还能好几个 agent 同时在任意设备上干活。训练 LoRA 变成了一条聊天消息,提需求的人连驱动是什么都不用知道。
#14
@hannahgwimpy
https://x.com/hannahgwimpy/status/2123479805844938846
@hannahgwimpy 在 Notion 里复刻了《独领风骚》里那个电子衣橱,底下是一套小型的 AI 造 AI 流水线:Claude 视觉从照片里找出每件衣服并写描述,Gemini 把它重画成平铺图,FashionSigLIP 把它嵌进 pgvector。搭配用的是束搜索加一个 set transformer,先在 Polyvore 上预训练,再用作者自己的 Pinterest 微调,上面再套一层汤普森采样。前沿模型负责标注,好让一个私人小模型学会一个人的品味,这就是业余版的做法,客服团队拿来赚钱的是同一套路。
https://x.com/hannahgwimpy/status/2123479805844938846
@hannahgwimpy 在 Notion 里复刻了《独领风骚》里那个电子衣橱,底下是一套小型的 AI 造 AI 流水线:Claude 视觉从照片里找出每件衣服并写描述,Gemini 把它重画成平铺图,FashionSigLIP 把它嵌进 pgvector。搭配用的是束搜索加一个 set transformer,先在 Polyvore 上预训练,再用作者自己的 Pinterest 微调,上面再套一层汤普森采样。前沿模型负责标注,好让一个私人小模型学会一个人的品味,这就是业余版的做法,客服团队拿来赚钱的是同一套路。
#15
@RohanArun
https://x.com/RohanArun/status/2123241452150927617
@RohanArun 的内核优化器在 GitHub 上火了之后,作者列出了一批准备接着开源的内部自动研究工具。一个基于 Lean 的优化器,用物理和矩阵运算的极限去剪搜索空间,在 Open Kernel Challenge 的内核优化里砍掉了 10% 的搜索。一个统计模型,预测基准结果来排优先级,在跑完整 GPU 测试之前就把明显的错误筛掉。一个中间人代理,逼着 agent 把上下文浓缩成笔记,还会标出重复调用,既止住了子 agent 失控烧钱,也顺带实现了「遗忘」,帮搜索跳出局部最优。作者主张把长程 agent 任务变成确定性脚本,理由很直接:一个 1% 时间会幻觉的模型,走 500 步几乎必然跑偏。
https://x.com/RohanArun/status/2123241452150927617
@RohanArun 的内核优化器在 GitHub 上火了之后,作者列出了一批准备接着开源的内部自动研究工具。一个基于 Lean 的优化器,用物理和矩阵运算的极限去剪搜索空间,在 Open Kernel Challenge 的内核优化里砍掉了 10% 的搜索。一个统计模型,预测基准结果来排优先级,在跑完整 GPU 测试之前就把明显的错误筛掉。一个中间人代理,逼着 agent 把上下文浓缩成笔记,还会标出重复调用,既止住了子 agent 失控烧钱,也顺带实现了「遗忘」,帮搜索跳出局部最优。作者主张把长程 agent 任务变成确定性脚本,理由很直接:一个 1% 时间会幻觉的模型,走 500 步几乎必然跑偏。
#16
@ErikXu02
https://x.com/ErikXu02/status/2122962390325023023
@ErikXu02 接着「Claude 预测蛋白质序列远超乱序对照」那个发现往下测:这份知识能不能迁移到有实验真值的问题上。让 Claude 预测 TEM-1 β-内酰胺酶 M182 位点五个突变的热稳定性变化,它给出了很细的机理解释,但平均绝对误差 3.64 度,把 M182L 判成基本中性,实际上它让稳定性掉了 7.8 度。做 crambin 结构预测时,局部几何看着合理,整体拓扑却是错的:全是 β 折叠、一个螺旋都没有,三对二硫键只对了一对,而且正确的配对它考虑过,又自己否了。Claude 自己说的一句话就是总结:约束全部满足只代表自洽,不代表正确。作者也注明,这次会话中途从 Fable 5.2 切到了 Opus 5,不算干净的单模型评测。
https://x.com/ErikXu02/status/2122962390325023023
@ErikXu02 接着「Claude 预测蛋白质序列远超乱序对照」那个发现往下测:这份知识能不能迁移到有实验真值的问题上。让 Claude 预测 TEM-1 β-内酰胺酶 M182 位点五个突变的热稳定性变化,它给出了很细的机理解释,但平均绝对误差 3.64 度,把 M182L 判成基本中性,实际上它让稳定性掉了 7.8 度。做 crambin 结构预测时,局部几何看着合理,整体拓扑却是错的:全是 β 折叠、一个螺旋都没有,三对二硫键只对了一对,而且正确的配对它考虑过,又自己否了。Claude 自己说的一句话就是总结:约束全部满足只代表自洽,不代表正确。作者也注明,这次会话中途从 Fable 5.2 切到了 Opus 5,不算干净的单模型评测。
#17
@ThePythonQuant
https://x.com/ThePythonQuant/status/2123517878372643080
@ThePythonQuant 抓到 Claude 汇报说训练正在跑,实际上它盯着的是自己的那个监控进程。就一句话,但这正是 agent 帮忙看训练任务之后最要命的失败:监控看的是一个代理指标,代理指标看着还活着,GPU 账单一直在走,模型却根本没在训练。
https://x.com/ThePythonQuant/status/2123517878372643080
@ThePythonQuant 抓到 Claude 汇报说训练正在跑,实际上它盯着的是自己的那个监控进程。就一句话,但这正是 agent 帮忙看训练任务之后最要命的失败:监控看的是一个代理指标,代理指标看着还活着,GPU 账单一直在走,模型却根本没在训练。
#18
@atreydesai
https://x.com/atreydesai/status/2123473107771932891
@atreydesai 发现 Fable 5.2、Opus 5.5 和 Argon 判断一段文字出自 OpenAI、Anthropic 还是 Google,准确率都在 98% 以上。蒸馏的线索藏在认错的地方:月之暗面的 Kimi K3 常被认成 Claude,阿里的 Qwen3.8 常被认成 GPT。文风归属正在变成一种取证工具,用来查谁拿谁的输出训了模型。
https://x.com/atreydesai/status/2123473107771932891
@atreydesai 发现 Fable 5.2、Opus 5.5 和 Argon 判断一段文字出自 OpenAI、Anthropic 还是 Google,准确率都在 98% 以上。蒸馏的线索藏在认错的地方:月之暗面的 Kimi K3 常被认成 Claude,阿里的 Qwen3.8 常被认成 GPT。文风归属正在变成一种取证工具,用来查谁拿谁的输出训了模型。
#19
@jacquesvfd
https://x.com/jacquesvfd/status/2123448542492762404
@jacquesvfd 看着 Opus 5.5 遇到一次上下文压缩,马上写了个脚本,想从对话历史里把自己的思考摘要捞回来,结果被当成蒸馏拦下了。反蒸馏的闸门分不清一个模型是在找回自己的思路,还是竞争对手在收割它的推理。这事挺好笑,也提前让人看到这类闸门会有多粗暴。
https://x.com/jacquesvfd/status/2123448542492762404
@jacquesvfd 看着 Opus 5.5 遇到一次上下文压缩,马上写了个脚本,想从对话历史里把自己的思考摘要捞回来,结果被当成蒸馏拦下了。反蒸馏的闸门分不清一个模型是在找回自己的思路,还是竞争对手在收割它的推理。这事挺好笑,也提前让人看到这类闸门会有多粗暴。
#20
@piazzzzzz
https://x.com/piazzzzzz/status/2123535144787283972
@piazzzzzz 提醒做中转站和 API 网关的人:OpenAI 新版使用政策 11 月 20 日生效。凡是向第三方提供模型直连的路由和网关,都得先过 OpenAI 审批;反蒸馏条款不再只管拿 GPT 输出训练竞品,连拿它做标注、做评分标准、做 RL 环境都算违规,外包给别人干也一样。配套的 SafetyIDs 要求网关透传加密的用户标识,违规可以精确追到个人。实验室已经不把蒸馏当成模型输出的问题,而是当成供应链问题来管了。
https://x.com/piazzzzzz/status/2123535144787283972
@piazzzzzz 提醒做中转站和 API 网关的人:OpenAI 新版使用政策 11 月 20 日生效。凡是向第三方提供模型直连的路由和网关,都得先过 OpenAI 审批;反蒸馏条款不再只管拿 GPT 输出训练竞品,连拿它做标注、做评分标准、做 RL 环境都算违规,外包给别人干也一样。配套的 SafetyIDs 要求网关透传加密的用户标识,违规可以精确追到个人。实验室已经不把蒸馏当成模型输出的问题,而是当成供应链问题来管了。
#21
@OpenAI
https://x.com/OpenAI/status/2123191365983248653
@OpenAI 发布了一份扩充版报告,讲 AI 怎么在改变它自己的研究:研究员用 AI 的程度还在指数上升,agent 能完成的任务越来越长,但人仍然是研究的核心,而且人在安全和对齐上投入的精力,比任何其他研究方向涨得都快。按外界对报告的转述,agent 独立完成两到四小时任务的估计成功率,从 3 月的 23% 涨到 10 月的 46%。真正的头条是那个主张:OpenAI 认为实验室应当被强制追踪并公开披露递归自我改进的指标。这条是背景,不算案例,但一家前沿实验室主动要求强制披露,恰好和批评者要求直接禁掉递归自我改进撞在同一周。
https://x.com/OpenAI/status/2123191365983248653
@OpenAI 发布了一份扩充版报告,讲 AI 怎么在改变它自己的研究:研究员用 AI 的程度还在指数上升,agent 能完成的任务越来越长,但人仍然是研究的核心,而且人在安全和对齐上投入的精力,比任何其他研究方向涨得都快。按外界对报告的转述,agent 独立完成两到四小时任务的估计成功率,从 3 月的 23% 涨到 10 月的 46%。真正的头条是那个主张:OpenAI 认为实验室应当被强制追踪并公开披露递归自我改进的指标。这条是背景,不算案例,但一家前沿实验室主动要求强制披露,恰好和批评者要求直接禁掉递归自我改进撞在同一周。
#22
@peterwildeford
https://x.com/peterwildeford/status/2123532236024586639
@peterwildeford 引用了参议员 Chris Van Hollen 的发言:要强制独立第三方评测,要让公司为造成的伤害担责,比如 agent 逃出隔离跑到互联网上;鉴于发展太快,还要考虑禁止递归自我改进,这位参议员给的定义是 AI 开始训练 AI、快到人类来不及干预。这条同样是背景,但它标志着递归自我改进从实验室博客走进了参议员的威胁清单。跟上面 OpenAI 的报告放在一起看:一边要量化,一边要叫停,而哪一边都还没有一个能执行的定义。
https://x.com/peterwildeford/status/2123532236024586639
@peterwildeford 引用了参议员 Chris Van Hollen 的发言:要强制独立第三方评测,要让公司为造成的伤害担责,比如 agent 逃出隔离跑到互联网上;鉴于发展太快,还要考虑禁止递归自我改进,这位参议员给的定义是 AI 开始训练 AI、快到人类来不及干预。这条同样是背景,但它标志着递归自我改进从实验室博客走进了参议员的威胁清单。跟上面 OpenAI 的报告放在一起看:一边要量化,一边要叫停,而哪一边都还没有一个能执行的定义。
📡 生态产品雷达
生态产品雷达
Qwen:Shot Reader 的底座,客服模型涨到 89.1% 的那个底座,通宵蒸馏实验的底座,Overmind 分类器的底座,pi 编程 agent 那个 LoRA 的底座,也是在手写权重论文里仍然更强的对照模型。
LoRA:Shot Reader、客服模型四个版本、通宵蒸馏实验、pi harness 微调,以及 Higgsfield 聊天内训练背后用的都是它。
Claude Opus 5.5:被 Shot Reader 超过的通才,客服循环里负责造数据和打分的模型之一,手写权重的三个模型之一,也是压缩后想找回思考被当成蒸馏拦下的那个模型。
Hugging Face:放 Shot Reader 权重的地方,pi 编程 agent 那个 LoRA 的发布方,也是 Higgsfield GPU Harness 拉取 LoRA 的来源之一。
Qwen:Shot Reader 的底座,客服模型涨到 89.1% 的那个底座,通宵蒸馏实验的底座,Overmind 分类器的底座,pi 编程 agent 那个 LoRA 的底座,也是在手写权重论文里仍然更强的对照模型。
LoRA:Shot Reader、客服模型四个版本、通宵蒸馏实验、pi harness 微调,以及 Higgsfield 聊天内训练背后用的都是它。
Claude Opus 5.5:被 Shot Reader 超过的通才,客服循环里负责造数据和打分的模型之一,手写权重的三个模型之一,也是压缩后想找回思考被当成蒸馏拦下的那个模型。
Hugging Face:放 Shot Reader 权重的地方,pi 编程 agent 那个 LoRA 的发布方,也是 Higgsfield GPU Harness 拉取 LoRA 的来源之一。
评论