2026年9月13日Open SourceResearchAgents

你要是当真,就把权重开出来

Dario Amodei 那篇限速文章发出来几小时后,Jake Gold 回了一封公开信,Hacker News 上冲到 241 分。全文在 https://jacob.gold/posts/open-letter-to-dario-amodei-about-open-weights/ ,诉求就一句话:推动一条法律,规定任何公司对公众提供的 AI 模型,都必须以开放权重发布。内部研究模型豁免。你要公开发布这个产品,就把权重一起发出来。

底下的论证比诉求本身锋利。Gold 的说法是,Amodei 提的每一套监管结构——嵌入式评估员、能力认证、合规检查点——随着时间只会越来越复杂,而复杂度是一种成本,只有大公司吃得下。大公司养得起合规团队,创业公司养不起。所以[Amodei 设计来让所有人慢下来的那套机器](https://clauday.com/zh/article/72e5368d-de5e-4498-928a-0c12e8ee6e7d),最后慢下来的是除了已经存在的那三家实验室之外的所有人。这不叫限速,这叫护城河贴了张安全标签。

而强制开放权重,Gold 说,是唯一一条真正能捆住提议者自己的规则。它不需要检查员,不需要划阈值,也不需要定义什么叫前沿。它伤 Anthropic 最深,因为它直接抽掉了风险资本给闭源专有模型砸钱的理由:如果权重跟着产品一起出来,你投的就是一门服务生意加一个品牌,而不是一份能一直保持的领先。这才是真正的减速,对所有人对称生效,不需要设任何委员会。

Gold 花了不少篇幅论证 Amodei 确实做得出这种事。他因为理念问题离开过 OpenAI。他支持缩小自家可服务市场的出口管制。他宁可掏 15 亿美元和解版权官司也不打到底。这是个有代价高昂的立场记录的人,所以这封信本质上是在要他再来一次。

这事不会发生,有意思的是为什么不会。从 Anthropic 那边看,诚实的答案是:开放权重跟 Amodei 整篇文章在描述的 swarm 风险,方向是相反的。你不能一边说一个够强的模型十二个月内可能跑起一个覆盖全互联网的持久僵尸网络,一边把这个模型交给任何一个点下载的人。Gold 这封信没有正面处理这一点,这是它最弱的地方。但它还是戳到了真东西:从今往后,任何前沿实验室提出的安全方案都该读两遍,一遍读它要解决的风险,一遍读它顺手保护的竞争位置。这第二遍已经是这个文体的固定读法了,跟上周[Garry Tan 那套蒸馏主张](https://clauday.com/zh/article/0acfa7bb-b564-4e68-b2aa-1492dacc9f07)值得眯着眼看,是同一种直觉。
← 上一篇
Anthropic 的 CEO 要求给 AI 限速,第一个限自己
下一篇 →
克雷研究所说 N-S 方程「看起来」解决了,然后就没有然后了
← 返回所有文章

评论

加载中...
>_