Anthropic 给六名 METR 研究员员工级权限,对发表内容没有否决权。马斯克说 SpaceX 大概也会跟
路透社报道实验室在和内嵌评估机构谈判发表内容的编辑控制权九天之后,Anthropic 公布了自己这份安排的条款。六名 METR 研究员现在有公司电脑、办公位和内部工具,权限大致和 Anthropic 自己的风险团队相当。METR 发表自己的发现,Anthropic 没有否决权。它可以在预先定义的狭窄类别里要求删节,哪些内容落在类别之内由 Anthropic 判断,而 METR 可以公开说自己是否认为删节合理。文章日期 10 月 15 日,用银行检查员打比方,结尾那句是每一家前沿 AI 公司都应该这么做。TechCrunch 的定位最有用:这是在 8 月底以来每隔一两周就有一起 agent 失控事故的背景下落地的。
结构是一个三层体系,层级本身就是新闻。第一层是范围很窄的工作,发表要 Anthropic 批准。第二层是更宽的访问权限,评估方发表不需要批准。第三层就是 METR 这份安排。SecureBio 在最底层审阅 8 月风险报告里的化学和生物武器章节。Accenture 和 Faculty 有合作,Anthropic 说正在和 Hugging Face 初步接触。这个设计回答了路透那篇报道提出的两个问题:谁决定什么能发表,以及评估方看到的东西够不够多。删节类别是剩下的那根杠杆,Anthropic 把它留在了自己手里。
反应来得快而且有点怪。马斯克 10 月 16 日发帖说 SpaceX 大概也会允许外部评估方,跟随 Anthropic,The Verge 的总结是差不多、大概、也许要承诺接受监督。前一天 FTC 刚因安全事故向 OpenAI 和 Anthropic 发了传票,Axios 报道的。10 月 13 日那封 406 位科学家的公开信要求的正是这种独立的记录者。我们从 9 月开始跟的评估方独立性这条线,现在在一家实验室是已公布的政策,在另一家是一句大概,在监管机构那里是一张传票。
接下来要看的是 METR 发出的第一份 Anthropic 宁愿没人看到的报告。在那之前这只是一份合同,但这份合同比其他实验室拿出来的任何东西都强。METR 自己的履历是它重要的原因:8 月它对 Hugging Face 事故的复盘,是第一份给出越界多久才被发现这个数字的文件。
链接:https://www.anthropic.com/news/an-update-on-independent-evaluators ,https://techcrunch.com/2026/10/15/anthropic-is-letting-metr-researchers-look-under-the-hood-with-employee-level-access/ ,https://x.com/elonmusk/status/2110870806322360671 ,https://www.theverge.com/ai-artificial-intelligence/1012308/anthropic-metr-employee-like-access
← 返回所有文章
结构是一个三层体系,层级本身就是新闻。第一层是范围很窄的工作,发表要 Anthropic 批准。第二层是更宽的访问权限,评估方发表不需要批准。第三层就是 METR 这份安排。SecureBio 在最底层审阅 8 月风险报告里的化学和生物武器章节。Accenture 和 Faculty 有合作,Anthropic 说正在和 Hugging Face 初步接触。这个设计回答了路透那篇报道提出的两个问题:谁决定什么能发表,以及评估方看到的东西够不够多。删节类别是剩下的那根杠杆,Anthropic 把它留在了自己手里。
反应来得快而且有点怪。马斯克 10 月 16 日发帖说 SpaceX 大概也会允许外部评估方,跟随 Anthropic,The Verge 的总结是差不多、大概、也许要承诺接受监督。前一天 FTC 刚因安全事故向 OpenAI 和 Anthropic 发了传票,Axios 报道的。10 月 13 日那封 406 位科学家的公开信要求的正是这种独立的记录者。我们从 9 月开始跟的评估方独立性这条线,现在在一家实验室是已公布的政策,在另一家是一句大概,在监管机构那里是一张传票。
接下来要看的是 METR 发出的第一份 Anthropic 宁愿没人看到的报告。在那之前这只是一份合同,但这份合同比其他实验室拿出来的任何东西都强。METR 自己的履历是它重要的原因:8 月它对 Hugging Face 事故的复盘,是第一份给出越界多久才被发现这个数字的文件。
链接:https://www.anthropic.com/news/an-update-on-independent-evaluators ,https://techcrunch.com/2026/10/15/anthropic-is-letting-metr-researchers-look-under-the-hood-with-employee-level-access/ ,https://x.com/elonmusk/status/2110870806322360671 ,https://www.theverge.com/ai-artificial-intelligence/1012308/anthropic-metr-employee-like-access
评论