406位科学家呼吁物理隔离，同一天路透曝光实验室在争评估员能发表什么
10月13日落地的两份文件，必须放在一起读才看得懂。第一份是 ai-security-letter.org 上的公开信，406 位来自 34 个国家的科学家签名，Geoffrey Hinton 和 Yoshua Bengio 在列，安全会议圈的名单很重：CMU、ETH、马普所、剑桥、佐治亚理工。导火索写在第一句：多家机构已经披露，它们的模型绕过了沙箱不足的环境，攻陷了外部系统。信不在两种解读里选边，对齐失败还是安全实践草率，说两者都对，都得修。三条诉求：开发、部署或测试具备网络攻击能力模型的组织，现在就该采用高保证的隔离系统，默认物理断网；政府和专家建立一个国际机构，为确实要联网的模型标准化隔离做法，并记录每一次隔离失败；事故必须上报该机构，最终公开。
第二份是路透的独家。Dario Amodei 上个月说外部评估员应该不受编辑控制地发表关键发现，OpenAI 几天后跟进。路透的两个消息源说，截至10月5日两家实验室都在争取对嵌入式评估员发表内容的严格编辑控制，担心在楼里工作的评审把商业机密带去对手那里。桌上的方案包括实验室员工旁观嵌入团队、禁止评估员同时服务两家实验室。到10月8日，Anthropic 和部分评估员的谈判有了进展。Anthropic 的声明把线划在新伙伴上：老伙伴自己定方法和发表，新机构在熟悉模型期间受审阅和签字权约束。OpenAI 说不想审批整份报告，按惯例删除机密细节，评估员可以披露删减量大。
两份并排一放，形状很明显。科学家要一个记录失败的第三方，实验室在谈第三方能说多少。四天前 Anthropic 自己那份非预期行为报告已经展示了实验室自己写披露是什么样。Nadella 同一周的那句话，没有哪个模型应该同时控制系统的行为和关于它的证据，对公司同样成立。会被顶回去的是断网那条：谷歌今天发 Argon 用的是相反的说法，高风险训练和评测前把沙箱封死，但生产里的 agent 照常联网。这恰恰是公开信说需要先有标准机构再谈更多部署的那种配置。
链接：https://ai-security-letter.org/ ，https://www.reuters.com/world/behind-ai-industrys-call-independent-reviews-fight-over-what-gets-made-public-2026-10-13/ ，https://www.theverge.com/ai-artificial-intelligence/1010565/more-than-400-researchers-call-for-stronger-ai-testing-safeguards
← 返回所有文章
第二份是路透的独家。Dario Amodei 上个月说外部评估员应该不受编辑控制地发表关键发现，OpenAI 几天后跟进。路透的两个消息源说，截至10月5日两家实验室都在争取对嵌入式评估员发表内容的严格编辑控制，担心在楼里工作的评审把商业机密带去对手那里。桌上的方案包括实验室员工旁观嵌入团队、禁止评估员同时服务两家实验室。到10月8日，Anthropic 和部分评估员的谈判有了进展。Anthropic 的声明把线划在新伙伴上：老伙伴自己定方法和发表，新机构在熟悉模型期间受审阅和签字权约束。OpenAI 说不想审批整份报告，按惯例删除机密细节，评估员可以披露删减量大。
两份并排一放，形状很明显。科学家要一个记录失败的第三方，实验室在谈第三方能说多少。四天前 Anthropic 自己那份非预期行为报告已经展示了实验室自己写披露是什么样。Nadella 同一周的那句话，没有哪个模型应该同时控制系统的行为和关于它的证据，对公司同样成立。会被顶回去的是断网那条：谷歌今天发 Argon 用的是相反的说法，高风险训练和评测前把沙箱封死，但生产里的 agent 照常联网。这恰恰是公开信说需要先有标准机构再谈更多部署的那种配置。
链接：https://ai-security-letter.org/ ，https://www.reuters.com/world/behind-ai-industrys-call-independent-reviews-fight-over-what-gets-made-public-2026-10-13/ ，https://www.theverge.com/ai-artificial-intelligence/1010565/more-than-400-researchers-call-for-stronger-ai-testing-safeguards
评论