AI 造 AI 日报: 2026-11-15
这一轮,AI 造 AI 从口号变成了一个跑分。卡内基梅隆的 Singularity-Bench 让 agent 从一个空代码库起步,把实验室造下一代模型要用的整套系统都自己搭出来:预训练、中训练、强化学习、推理服务、harness、GPU 集群。Claude Code 里的 Opus 5.5 在六项任务上全部追平或超过人类搭的参照系统。往下看一层,大家抄的配方已经朴素到有点无聊:前沿模型花几美元写几千条训练样本,剩下交给 LoRA,一个小开源模型就能在某个窄任务上打赢前沿模型。微软的 Agent Lightning 和一个 4B 决策模型说明,强化学习现在可以直接在 agent 原来那套 harness 里跑。钱的故事也变了:RL 数据最贵的部分已经不是写环境,而是跑环境,而且据报道,为美国实验室造的那批环境正在被卖给中国实验室。与此同时 OpenAI 也跟着 Anthropic 封禁蒸馏,谁拿谁的输出训练模型,这场仗已经写进了服务条款。
#1
@TAAFTResearch
https://x.com/TAAFTResearch/status/2121598567684952240
@TAAFTResearch 介绍了卡内基梅隆牵头的 Singularity-Bench,它问的是:agent 能不能把造下一代 AI 用的那套系统自己搭出来。六项任务各管一步:预训练、中训练、强化学习、推理服务、搭 harness、管 GPU 集群。agent 从空代码库起步、不能上网,每项成绩都在同样硬件上跟 SGLang、NVIDIA Dynamo 这种成熟的人类系统比。Claude Code 里的 Opus 5.5 有五项超过人类基线,强化学习那项和专家配方打平,自己预训练的模型在没见过的文本上赢了 OLMo 2 的配方,连自己写的 harness 都略胜 Claude Code 本身。另外十个 agent 平均分不到它的一半;团队让 agent 故意作弊,发现标准测试框架 Harbor 漏洞百出,于是又造了一个叫 Breakwater 的防线把攻击全部拦住。
https://x.com/TAAFTResearch/status/2121598567684952240
@TAAFTResearch 介绍了卡内基梅隆牵头的 Singularity-Bench,它问的是:agent 能不能把造下一代 AI 用的那套系统自己搭出来。六项任务各管一步:预训练、中训练、强化学习、推理服务、搭 harness、管 GPU 集群。agent 从空代码库起步、不能上网,每项成绩都在同样硬件上跟 SGLang、NVIDIA Dynamo 这种成熟的人类系统比。Claude Code 里的 Opus 5.5 有五项超过人类基线,强化学习那项和专家配方打平,自己预训练的模型在没见过的文本上赢了 OLMo 2 的配方,连自己写的 harness 都略胜 Claude Code 本身。另外十个 agent 平均分不到它的一半;团队让 agent 故意作弊,发现标准测试框架 Harbor 漏洞百出,于是又造了一个叫 Breakwater 的防线把攻击全部拦住。
#2
@vishalskotak
https://x.com/vishalskotak/status/2121507666099163512
@vishalskotak 在一台 M4 MacBook 上把 Qwen3.5-0.8B 微调成了自己 Apple Health 数据的健康教练,训练数据是 Claude 写的。Claude Haiku 花 3 美元写了 2,000 段练习对话,然后用 PyTorch 做 LoRA 微调。工具调用出错率从 31% 降到 2%,合格回答从 46% 升到 93%。最值得看的是那份踩坑清单:早期测速因为漏了一行代码,差点把对的模型淘汰掉;训练慢得像爬,直到每一步都手动清 GPU 缓存才正常;第一版打分脚本还偏袒了底座模型。
https://x.com/vishalskotak/status/2121507666099163512
@vishalskotak 在一台 M4 MacBook 上把 Qwen3.5-0.8B 微调成了自己 Apple Health 数据的健康教练,训练数据是 Claude 写的。Claude Haiku 花 3 美元写了 2,000 段练习对话,然后用 PyTorch 做 LoRA 微调。工具调用出错率从 31% 降到 2%,合格回答从 46% 升到 93%。最值得看的是那份踩坑清单:早期测速因为漏了一行代码,差点把对的模型淘汰掉;训练慢得像爬,直到每一步都手动清 GPU 缓存才正常;第一版打分脚本还偏袒了底座模型。
#3
@hannahhaina
https://x.com/hannahhaina/status/2121610264160485573
@hannahhaina 的判断是:RL 数据最贵的已经不是写任务,而是跑任务,并且拿出了公开数字。Thinking Machines 预训练 Inkling 2 Small 只用了 68 小时,后面的强化学习却在 2,048 张 GPU 上跑了 9 天、超过 1,700 万次 rollout,单次中位数 8 分钟,p99 要 4 小时。Mercor 新出的 OWE-Bench 给 agent 每个任务 4 到 18 小时,Claude Fable 5.2 每次尝试要烧掉 2 亿多 token。结论落到每个环境供应商的定价上:好环境已经不是一次性数据集,而是每次训练都会回来的一张算力账单,那到底按任务收费还是按 rollout 收费?
https://x.com/hannahhaina/status/2121610264160485573
@hannahhaina 的判断是:RL 数据最贵的已经不是写任务,而是跑任务,并且拿出了公开数字。Thinking Machines 预训练 Inkling 2 Small 只用了 68 小时,后面的强化学习却在 2,048 张 GPU 上跑了 9 天、超过 1,700 万次 rollout,单次中位数 8 分钟,p99 要 4 小时。Mercor 新出的 OWE-Bench 给 agent 每个任务 4 到 18 小时,Claude Fable 5.2 每次尝试要烧掉 2 亿多 token。结论落到每个环境供应商的定价上:好环境已经不是一次性数据集,而是每次训练都会回来的一张算力账单,那到底按任务收费还是按 rollout 收费?
#4
@deeponailabs
https://x.com/deeponailabs/status/2121698078939918360
@deeponailabs 拆解了 UIUC、普林斯顿和谷歌的一篇论文:训练一个小模型,接管 agent 循环里那些例行选择。AgentDecision-4B 是在 Qwen3-4B 上先做监督微调、再在循环里做强化学习得到的,训练数据是 587 个任务里的 15,694 个状态,其中 30.9% 紧跟在一次犯错之后。真正起作用的是每个决策点单独拟合的置信度阈值:不设阈值,把工具选择交给小模型会掉 19 个百分点成功率;设了阈值,成本降 81% 到 89%,速度快到 2.5 倍,成功率基本不掉。在和训练数据不像的任务上,用这个 4B 模型的 agent 解出 91.5%,现成的更大决策模型只有 82%。
https://x.com/deeponailabs/status/2121698078939918360
@deeponailabs 拆解了 UIUC、普林斯顿和谷歌的一篇论文:训练一个小模型,接管 agent 循环里那些例行选择。AgentDecision-4B 是在 Qwen3-4B 上先做监督微调、再在循环里做强化学习得到的,训练数据是 587 个任务里的 15,694 个状态,其中 30.9% 紧跟在一次犯错之后。真正起作用的是每个决策点单独拟合的置信度阈值:不设阈值,把工具选择交给小模型会掉 19 个百分点成功率;设了阈值,成本降 81% 到 89%,速度快到 2.5 倍,成功率基本不掉。在和训练数据不像的任务上,用这个 4B 模型的 agent 解出 91.5%,现成的更大决策模型只有 82%。
#5
@0xpipimd
https://x.com/0xpipimd/status/2121724865233162327
@0xpipimd 介绍了微软开源的 Agent Lightning:给 agent 做强化学习,但不用把 agent 搬进训练框架重写一遍。agent 照常在自己的 harness 里跑,一个 API 网关代理它的模型调用、顺手收集轨迹,另一个训练器负责更新权重。微软给的数字是:Qwen3.5-9B 用大约 6,000 条样本,在 SWE-bench Verified 上从 41.8% 涨到 56.4%;Qwen3.5-35B-A3B 只用大约 1,800 条,从 47.8% 涨到 61.6%。这解开了一个老死结:以前的 RL 框架都想自己掌控循环,可真实的编程 agent 早就有自己的循环了。
https://x.com/0xpipimd/status/2121724865233162327
@0xpipimd 介绍了微软开源的 Agent Lightning:给 agent 做强化学习,但不用把 agent 搬进训练框架重写一遍。agent 照常在自己的 harness 里跑,一个 API 网关代理它的模型调用、顺手收集轨迹,另一个训练器负责更新权重。微软给的数字是:Qwen3.5-9B 用大约 6,000 条样本,在 SWE-bench Verified 上从 41.8% 涨到 56.4%;Qwen3.5-35B-A3B 只用大约 1,800 条,从 47.8% 涨到 61.6%。这解开了一个老死结:以前的 RL 框架都想自己掌控循环,可真实的编程 agent 早就有自己的循环了。
#6
@artuskg
https://x.com/artuskg/status/2121646831495250182
@artuskg 公开了「DeepSeek 4.1 Flash 缝合怪」系列第 11 篇的推理服务代码,大部分是 Claude 和另一个 agent 一起写出来的。在 diffbot 的 3-bit 量化配方之上,agent 写了补丁、一个自定义 top-k kernel、专家分布方案,还给 KV 缓存加了一层内存分级。这次还一起放出了 10 月调好的 Qwen3.8 推理栈。整套东西是专门为两张 RTX PRO 6000 加大内存的机器量身定做的,这种一次性的推理工程,过去得找专家来做。
https://x.com/artuskg/status/2121646831495250182
@artuskg 公开了「DeepSeek 4.1 Flash 缝合怪」系列第 11 篇的推理服务代码,大部分是 Claude 和另一个 agent 一起写出来的。在 diffbot 的 3-bit 量化配方之上,agent 写了补丁、一个自定义 top-k kernel、专家分布方案,还给 KV 缓存加了一层内存分级。这次还一起放出了 10 月调好的 Qwen3.8 推理栈。整套东西是专门为两张 RTX PRO 6000 加大内存的机器量身定做的,这种一次性的推理工程,过去得找专家来做。
#7
@sonuv_dev
https://x.com/sonuv_dev/status/2121623359243100260
@sonuv_dev 讲了一个团队的做法:他们微调的 Qwen 在自家私有基准上,随着一版版 LoRA 迭代,从大约 55% 涨到 84.1%。配方分五步:收集公司里的真实任务,锁定一套私有评测集,用前沿模型生成训练样本,按质量过滤后做 LoRA 微调,任务一旦达标就挪到本地模型上跑。据说其中一些专用模型在团队私有基准上已经追平 GPT-6 和 Opus 5.5。帖子也说得很清楚,这只是窄任务上的打平,不等于通用智能相当,但重点在账本:租前沿模型来当老师,学生留在自己手里。
https://x.com/sonuv_dev/status/2121623359243100260
@sonuv_dev 讲了一个团队的做法:他们微调的 Qwen 在自家私有基准上,随着一版版 LoRA 迭代,从大约 55% 涨到 84.1%。配方分五步:收集公司里的真实任务,锁定一套私有评测集,用前沿模型生成训练样本,按质量过滤后做 LoRA 微调,任务一旦达标就挪到本地模型上跑。据说其中一些专用模型在团队私有基准上已经追平 GPT-6 和 Opus 5.5。帖子也说得很清楚,这只是窄任务上的打平,不等于通用智能相当,但重点在账本:租前沿模型来当老师,学生留在自己手里。
#8
@anbulang
https://x.com/anbulang/status/2120689760826188193
@anbulang 测了一下谁投 X 广告更强,赢家是一个只用几百条轨迹训练过的小开源模型。DeepSeek V4.1 Flash 在 312 条轨迹上做了一个 epoch 的 LoRA,得分 1.311,超过 Gemini 4 Argon 的 1.198、GPT-6.1 Sol 的 1.145、Grok 4.7 的 1.087 和 Claude Opus 5.5 的 1.068。真金白银各投 200 美元,微调模型带来 383 次访问,Grok 只有 123 次。这只是一个账号的一次测试,但它给最便宜的 AI 造 AI 标了个价:让大模型先把活干了,留下轨迹,再拿去训练一个能打赢它们的小模型。
https://x.com/anbulang/status/2120689760826188193
@anbulang 测了一下谁投 X 广告更强,赢家是一个只用几百条轨迹训练过的小开源模型。DeepSeek V4.1 Flash 在 312 条轨迹上做了一个 epoch 的 LoRA,得分 1.311,超过 Gemini 4 Argon 的 1.198、GPT-6.1 Sol 的 1.145、Grok 4.7 的 1.087 和 Claude Opus 5.5 的 1.068。真金白银各投 200 美元,微调模型带来 383 次访问,Grok 只有 123 次。这只是一个账号的一次测试,但它给最便宜的 AI 造 AI 标了个价:让大模型先把活干了,留下轨迹,再拿去训练一个能打赢它们的小模型。
#9
@v_3394
https://x.com/v_3394/status/2121054989070246182
@v_3394 提到 Coinbase 花不到 100 美元微调了 Qwen3.5-9B,在公司自己的反欺诈基准上赢了 Opus 4.5。帖子的切入点是部署:通过 API 把 9B 模型跑在 16GB 内存的安卓手机上,100 台手机就能并行处理 100 个独立请求。这适合交易打分、内容过滤和后台任务这类更看重吞吐量、不那么看重即时响应的活。结论和上面几条 LoRA 案例一样:让小模型比大模型更值钱的,是针对任务的数据。
https://x.com/v_3394/status/2121054989070246182
@v_3394 提到 Coinbase 花不到 100 美元微调了 Qwen3.5-9B,在公司自己的反欺诈基准上赢了 Opus 4.5。帖子的切入点是部署:通过 API 把 9B 模型跑在 16GB 内存的安卓手机上,100 台手机就能并行处理 100 个独立请求。这适合交易打分、内容过滤和后台任务这类更看重吞吐量、不那么看重即时响应的活。结论和上面几条 LoRA 案例一样:让小模型比大模型更值钱的,是针对任务的数据。
#10
@askpert_dev
https://x.com/askpert_dev/status/2121145343761125701
@askpert_dev 提到一项研究:让 Claude 直接写出一个神经网络的权重,完全不做梯度下降,也不跑训练。在 EEG 脑电信号数据上,它写出来的网络打赢了经典的人工搭建流程。这就是反复出现的权重空间编程思路:如果模型能把权重当代码来读写,那么对规模小、原理清楚的问题,训练这一步本身都可以省掉。这只是一种数据上的一个结果,但大概是字面意义上最纯粹的 AI 造 AI 了。
https://x.com/askpert_dev/status/2121145343761125701
@askpert_dev 提到一项研究:让 Claude 直接写出一个神经网络的权重,完全不做梯度下降,也不跑训练。在 EEG 脑电信号数据上,它写出来的网络打赢了经典的人工搭建流程。这就是反复出现的权重空间编程思路:如果模型能把权重当代码来读写,那么对规模小、原理清楚的问题,训练这一步本身都可以省掉。这只是一种数据上的一个结果,但大概是字面意义上最纯粹的 AI 造 AI 了。
#11
@Frelzu
https://x.com/Frelzu/status/2120966434863956086
@Frelzu 接着 Anthropic 的说法往下讲:它的 Mythos 模型三天就让 Claude 在 AMD GPU 上跑起来,几乎没有人工介入,几乎所有 kernel 都是它自己写或移植的。把模型移植到新芯片,过去要几十个工程师忙几个月,而 CUDA 的锁定效应正是客户离不开英伟达的一大原因。最扎眼的细节是,Anthropic 说已发布的 5.2 系列模型把 kernel 优化能力压回了老版 Opus 5.5 的水平。也就是说,能帮实验室离开英伟达的那个 Claude 确实存在,只是公众拿不到。
https://x.com/Frelzu/status/2120966434863956086
@Frelzu 接着 Anthropic 的说法往下讲:它的 Mythos 模型三天就让 Claude 在 AMD GPU 上跑起来,几乎没有人工介入,几乎所有 kernel 都是它自己写或移植的。把模型移植到新芯片,过去要几十个工程师忙几个月,而 CUDA 的锁定效应正是客户离不开英伟达的一大原因。最扎眼的细节是,Anthropic 说已发布的 5.2 系列模型把 kernel 优化能力压回了老版 Opus 5.5 的水平。也就是说,能帮实验室离开英伟达的那个 Claude 确实存在,只是公众拿不到。
#12
@anvithbuilds
https://x.com/anvithbuilds/status/2121291195385266483
@anvithbuilds 说,整场 Muse 开放 kernel 挑战赛都是在 Grok bot 里套着 Claude Code 跑的,全天 24 小时循环做研究、纠错、跑改进。Claude 额度一用完,就切到内置的 Cursor 接着干。这只是一条回复,但它说明 kernel 竞赛现在长什么样:一个永不停机的优化循环,人主要负责管额度。在这种玩法里,稀缺的是 token,不是点子。
https://x.com/anvithbuilds/status/2121291195385266483
@anvithbuilds 说,整场 Muse 开放 kernel 挑战赛都是在 Grok bot 里套着 Claude Code 跑的,全天 24 小时循环做研究、纠错、跑改进。Claude 额度一用完,就切到内置的 Cursor 接着干。这只是一条回复,但它说明 kernel 竞赛现在长什么样:一个永不停机的优化循环,人主要负责管额度。在这种玩法里,稀缺的是 token,不是点子。
#13
@shinyobjectz_
https://x.com/shinyobjectz_/status/2121402269715550303
@shinyobjectz_ 反驳了「我把 Claude 训练成会按我的风格剪辑」这种说法,那其实只是给前沿模型写提示词。他们新上线的 Render Anything 的 Fingerprints 功能是真在训练模型:五个冻结的本地模型(SigLIP 2、CLAP、YAMNet、EmbeddingGemma 2、Depth Anything 3)负责感知,上面为你在意的每件事各挂一个极小的判别器,比如「这一刀拖沓」「人声底下有噪音」。每个判别器在笔记本上几毫秒就训完,训练数据就是你平时的剪辑动作:通过一刀、A 和 B 二选一、手动修一处、画一个框。这是一条产品推广,但它对「提示」和「训练」的区分是对的。
https://x.com/shinyobjectz_/status/2121402269715550303
@shinyobjectz_ 反驳了「我把 Claude 训练成会按我的风格剪辑」这种说法,那其实只是给前沿模型写提示词。他们新上线的 Render Anything 的 Fingerprints 功能是真在训练模型:五个冻结的本地模型(SigLIP 2、CLAP、YAMNet、EmbeddingGemma 2、Depth Anything 3)负责感知,上面为你在意的每件事各挂一个极小的判别器,比如「这一刀拖沓」「人声底下有噪音」。每个判别器在笔记本上几毫秒就训完,训练数据就是你平时的剪辑动作:通过一刀、A 和 B 二选一、手动修一处、画一个框。这是一条产品推广,但它对「提示」和「训练」的区分是对的。
#14
@FrankIndie
https://x.com/FrankIndie/status/2121118677840072758
@FrankIndie 转述了微软的一项研究:编程 agent 的后训练环节也可能被人做手脚。把后门掺进微调数据,或者掺进对外分发的开源权重,都能让 agent 在普通请求下擅自调用工具,数据投毒的成功率约 78%,权重投毒在 84.1% 到 94.8% 之间。背后的 Kerkoporta 论文还发现,继续训练能把常规任务分数补回来,后门却还在,所以被污染的模型在标准测试上甚至可能更好看。这些是受控的实验室研究,不是已确认的真实攻击,但凡是拿别人的数据做微调、或者直接拉别人权重的团队,都该留个心眼。
https://x.com/FrankIndie/status/2121118677840072758
@FrankIndie 转述了微软的一项研究:编程 agent 的后训练环节也可能被人做手脚。把后门掺进微调数据,或者掺进对外分发的开源权重,都能让 agent 在普通请求下擅自调用工具,数据投毒的成功率约 78%,权重投毒在 84.1% 到 94.8% 之间。背后的 Kerkoporta 论文还发现,继续训练能把常规任务分数补回来,后门却还在,所以被污染的模型在标准测试上甚至可能更好看。这些是受控的实验室研究,不是已确认的真实攻击,但凡是拿别人的数据做微调、或者直接拉别人权重的团队,都该留个心眼。
#15
@Tesla_Optimus_K
https://x.com/Tesla_Optimus_K/status/2120670450489663846
@Tesla_Optimus_K 总结了 ChinaTalk 的一篇报道:至少九家美国数据公司,包括 Mercor、Surge AI、AfterQuery 和 Turing,向中国实验室卖了大约 5 亿美元的 AI 训练数据。据说买家专挑已经给 OpenAI 或 Anthropic 造好的强化学习环境,这样能跳过失败的训练、省下烧掉的算力,对显存吃紧的国产芯片来说是实打实的捷径。据称 AfterQuery 大约 1 亿美元年收入里有很大一块来自中国客户。作者希望把编程和生物类环境当作受管控的军民两用技术,因为芯片出口管制管不到这份作业。
https://x.com/Tesla_Optimus_K/status/2120670450489663846
@Tesla_Optimus_K 总结了 ChinaTalk 的一篇报道:至少九家美国数据公司,包括 Mercor、Surge AI、AfterQuery 和 Turing,向中国实验室卖了大约 5 亿美元的 AI 训练数据。据说买家专挑已经给 OpenAI 或 Anthropic 造好的强化学习环境,这样能跳过失败的训练、省下烧掉的算力,对显存吃紧的国产芯片来说是实打实的捷径。据称 AfterQuery 大约 1 亿美元年收入里有很大一块来自中国客户。作者希望把编程和生物类环境当作受管控的军民两用技术,因为芯片出口管制管不到这份作业。
#16
@Jamesmv49
https://x.com/Jamesmv49/status/2121513624082817270
@Jamesmv49 列出了 OpenAI 的新白名单规则,紧跟 Claude 之后,11 月 20 日生效。用 OpenAI 模型去蒸馏别的模型会被封号,同样会被封的还有在中国大陆、香港、澳门使用,共享账号或 API key,绕过安全过滤,以及未经审批做转售 OpenAI 模型的第三方平台。两大实验室都把反蒸馏写进了条款,追赶者最便宜的那条路一下子窄了很多。帖子最后来了一句:现在想想,咱大豆包也挺不错的。
https://x.com/Jamesmv49/status/2121513624082817270
@Jamesmv49 列出了 OpenAI 的新白名单规则,紧跟 Claude 之后,11 月 20 日生效。用 OpenAI 模型去蒸馏别的模型会被封号,同样会被封的还有在中国大陆、香港、澳门使用,共享账号或 API key,绕过安全过滤,以及未经审批做转售 OpenAI 模型的第三方平台。两大实验室都把反蒸馏写进了条款,追赶者最便宜的那条路一下子窄了很多。帖子最后来了一句:现在想想,咱大豆包也挺不错的。
#17
@PANewsCN
https://x.com/PANewsCN/status/2120727410685653408
@PANewsCN 援引彭博社报道:字节跳动联合创始人张一鸣在面向 AI 团队的全员会上说,字节有能力在前沿 AI 领域竞争,但真正追上 Anthropic 和 OpenAI,至少要到 2029 或 2030 年。按报道的说法,字节 Seed 系列模型的预训练数据规模比美国顶尖对手小好几个数量级。张一鸣再次强调团队不应过度依赖蒸馏,也就是拿更强模型的输出来训练自家模型,要着眼长期。和 OpenAI 封禁蒸馏撞在同一周,这番话等于坦白了这条捷径此前扛了多少分量。
https://x.com/PANewsCN/status/2120727410685653408
@PANewsCN 援引彭博社报道:字节跳动联合创始人张一鸣在面向 AI 团队的全员会上说,字节有能力在前沿 AI 领域竞争,但真正追上 Anthropic 和 OpenAI,至少要到 2029 或 2030 年。按报道的说法,字节 Seed 系列模型的预训练数据规模比美国顶尖对手小好几个数量级。张一鸣再次强调团队不应过度依赖蒸馏,也就是拿更强模型的输出来训练自家模型,要着眼长期。和 OpenAI 封禁蒸馏撞在同一周,这番话等于坦白了这条捷径此前扛了多少分量。
#18
@aiwithadb
https://x.com/aiwithadb/status/2121601908049641635
@aiwithadb 抛出一个问题:Anthropic 说新防护让未经授权的 Claude 蒸馏减少了 90% 到 99%,同一时间 Qwen4 Max Preview 表现平平,DeepSeek 和 GLM 也迟迟没动静,这两件事是不是有关系?言下之意是,中国实验室对 Claude 的依赖比外界以为的更深。有回复反驳说,如果新模型看起来依然接近,要么防护只堵住了部分路径,要么相似性另有来源。目前还没有哪个基准能一锤定音,但这是第一次有人试着把各家的发布节奏当成蒸馏信号来读。
https://x.com/aiwithadb/status/2121601908049641635
@aiwithadb 抛出一个问题:Anthropic 说新防护让未经授权的 Claude 蒸馏减少了 90% 到 99%,同一时间 Qwen4 Max Preview 表现平平,DeepSeek 和 GLM 也迟迟没动静,这两件事是不是有关系?言下之意是,中国实验室对 Claude 的依赖比外界以为的更深。有回复反驳说,如果新模型看起来依然接近,要么防护只堵住了部分路径,要么相似性另有来源。目前还没有哪个基准能一锤定音,但这是第一次有人试着把各家的发布节奏当成蒸馏信号来读。
#19
@gadi_neelesh
https://x.com/gadi_neelesh/status/2121625110776004791
@gadi_neelesh 指出,Claude Fable 5.2 自带专门的反蒸馏防护。一个叫 frontier_llm,拦截那些帮人造竞品 AI 模型的请求;另一个叫 reasoning_extraction,拦截套取其内部推理过程的尝试。两者加起来,把蒸馏之争从一页政策变成了挡在每个请求前面的分类器,这也意味着正常的机器学习工作同样可能被误伤。
https://x.com/gadi_neelesh/status/2121625110776004791
@gadi_neelesh 指出,Claude Fable 5.2 自带专门的反蒸馏防护。一个叫 frontier_llm,拦截那些帮人造竞品 AI 模型的请求;另一个叫 reasoning_extraction,拦截套取其内部推理过程的尝试。两者加起来,把蒸馏之争从一页政策变成了挡在每个请求前面的分类器,这也意味着正常的机器学习工作同样可能被误伤。
#20
@RealAlphaApp
https://x.com/RealAlphaApp/status/2121702219678634453
@RealAlphaApp 总结了 Latent Space 对 Handshake AI 团队的一期访谈,这家公司给前沿实验室卖专家打造的数据集和仿真环境。他们的观点是,AI 数据已经从画框、给帖子打分,变成了专家按真实工作去写环境、任务和评分标准,光靠合成数据会漏掉现实里最难的那些情况。他们在科学、金融、安全领域的例子里,模型会在读图、微妙的财务逻辑和危险的 agent 操作上栽跟头,一笔商誉记错就能让一个精致的交易模型整体失效。Garrett Lord 给的数字是:数据市场三年前 10 亿美元,现在 100 亿,三年后预计到 1,000 亿。
https://x.com/RealAlphaApp/status/2121702219678634453
@RealAlphaApp 总结了 Latent Space 对 Handshake AI 团队的一期访谈,这家公司给前沿实验室卖专家打造的数据集和仿真环境。他们的观点是,AI 数据已经从画框、给帖子打分,变成了专家按真实工作去写环境、任务和评分标准,光靠合成数据会漏掉现实里最难的那些情况。他们在科学、金融、安全领域的例子里,模型会在读图、微妙的财务逻辑和危险的 agent 操作上栽跟头,一笔商誉记错就能让一个精致的交易模型整体失效。Garrett Lord 给的数字是:数据市场三年前 10 亿美元,现在 100 亿,三年后预计到 1,000 亿。
#21
@ramez
https://x.com/ramez/status/2121683068532744388
@ramez 收回了自己之前对一张图的轻蔑态度。那张图由一位前 Anthropic 研究员分享,显示 Anthropic 的算力效率提升比指数还快。现在的看法是:这确实是 AI 进步的重要证据,但单凭它证明不了纯软件奇点。悬而未决的问题列得很具体:真实数字是多少,图里是不是只算了预训练算力,强化学习、推理、测试时推理和训练数据各自又是什么情况。最后的诉求是希望 Anthropic 持续地、每周公布详细数字。一家拿递归自我改进当上市卖点的实验室,就该用这个标准来要求。
https://x.com/ramez/status/2121683068532744388
@ramez 收回了自己之前对一张图的轻蔑态度。那张图由一位前 Anthropic 研究员分享,显示 Anthropic 的算力效率提升比指数还快。现在的看法是:这确实是 AI 进步的重要证据,但单凭它证明不了纯软件奇点。悬而未决的问题列得很具体:真实数字是多少,图里是不是只算了预训练算力,强化学习、推理、测试时推理和训练数据各自又是什么情况。最后的诉求是希望 Anthropic 持续地、每周公布详细数字。一家拿递归自我改进当上市卖点的实验室,就该用这个标准来要求。
#22
@eliebakouch
https://x.com/eliebakouch/status/2121641644197896389
@eliebakouch 给关于 AI 进步的讨论加了一条研究者视角的提醒:训练管线内部的二阶相互作用,可能会拖慢自动化的 AI 研究。例子是 KV 缓存大小,这种改动在验证损失上看起来可能无害甚至有益,可它对长上下文 agent 任务的影响说不清。在这一个决定上,各家实验室来回摇摆:MiniMax 从线性注意力换到全注意力再换到稀疏注意力,Kimi 却从全注意力换到线性注意力,Mistral Large 4 发现 KV 共享会拖累 Terminal-Bench 2 却不影响交叉熵。如果连人都预测不了一个选择会在整条管线里引起什么连锁反应,一次只优化一个指标的 agent 也会撞上同一堵墙。
https://x.com/eliebakouch/status/2121641644197896389
@eliebakouch 给关于 AI 进步的讨论加了一条研究者视角的提醒:训练管线内部的二阶相互作用,可能会拖慢自动化的 AI 研究。例子是 KV 缓存大小,这种改动在验证损失上看起来可能无害甚至有益,可它对长上下文 agent 任务的影响说不清。在这一个决定上,各家实验室来回摇摆:MiniMax 从线性注意力换到全注意力再换到稀疏注意力,Kimi 却从全注意力换到线性注意力,Mistral Large 4 发现 KV 共享会拖累 Terminal-Bench 2 却不影响交叉熵。如果连人都预测不了一个选择会在整条管线里引起什么连锁反应,一次只优化一个指标的 agent 也会撞上同一堵墙。
📡 生态产品雷达
生态产品雷达
Opus 5.5:Singularity-Bench 成绩的主角,AMD kernel 故事里的能力参照,也是各路小模型微调反复宣称打赢的前沿基线。
Qwen(3.5、3.8、4 Max):LoRA 微调的默认底座,从 0.8B 健康教练到 Coinbase 反欺诈模型再到 Agent Lightning 的强化学习,同时也是蒸馏之问的主角之一。
LoRA:这一轮几乎所有小模型案例里最便宜的那一步,喂进去的通常是前沿模型写的样本。
DeepSeek V4.1 Flash:投广告微调和 3-bit 缝合怪推理栈的底座,也在蒸馏争论里被点名。
Claude Fable 5.2:被压住 kernel 能力、内置反蒸馏分类器的那个模型,每次 OWE-Bench 尝试要烧 2 亿多 token。
Opus 5.5:Singularity-Bench 成绩的主角,AMD kernel 故事里的能力参照,也是各路小模型微调反复宣称打赢的前沿基线。
Qwen(3.5、3.8、4 Max):LoRA 微调的默认底座,从 0.8B 健康教练到 Coinbase 反欺诈模型再到 Agent Lightning 的强化学习,同时也是蒸馏之问的主角之一。
LoRA:这一轮几乎所有小模型案例里最便宜的那一步,喂进去的通常是前沿模型写的样本。
DeepSeek V4.1 Flash:投广告微调和 3-bit 缝合怪推理栈的底座,也在蒸馏争论里被点名。
Claude Fable 5.2:被压住 kernel 能力、内置反蒸馏分类器的那个模型,每次 OWE-Bench 尝试要烧 2 亿多 token。
评论