2026年10月24日AgentsTool

Claude 全线 app 下周默认开启自动模式,批准按钮换成了分类器

10 月 22 日晚,Anthropic 在 X 上宣布:下周起,Pro、Max 和 Team 用户在 Claude 网页版、桌面端和手机端的会话,默认都跑在自动模式下。不再每一步都让你点批准,而是由一道自动检查拦下有风险的操作,随时可以切回手动。这条帖子一天之内浏览量超过 220 万。原帖:https://x.com/claudeai/status/2113360845409583307

这是最大的消费级 agent 入口,把默认从"人在回路里"换成了"分类器在回路里"。道理写在 Anthropic 当初给 Claude Code 上线自动模式时的工程博客里:用户本来就会批准 93% 的手动权限请求,审批疲劳一个数字就说清了。分类器只看用户消息和 agent 的工具调用,agent 自己说的话全部剥掉,免得它靠话术说服检查放行。Anthropic 自己印出来的诚实数字是:对真实的"过度积极"操作,漏报率 17%;端到端误报率 0.4%。官方的说法是,这比完全跳过权限强得多,但对每一步都认真审的人来说,可以说是退步。博客:https://www.anthropic.com/engineering/claude-code-auto-mode

同一天,Anthropic 发布了之前承诺的 Claude Duet 安全说明,展示了牵扯到真钱和真账户时这个默认长什么样。批准卡片和一道基于自动模式分类器的独立检查都放在模型之外,"agent 读到的任何东西都没法替你回答这张卡片"。交易证券、在账户之间转钱、访问别人的账户,就算你批准也不行。付款、删订单、注册账号,永远不能被"以后别问我"覆盖。密码在 app 里的表单输入,用一次性密钥加密,模型看不到;连接器的令牌从不进入 agent 所在的机器,那里只放一个占位符,由外面的代理在请求发出时换成真值。https://claude.com/resources/articles/claude-duet-safety-privacy-and-security

有意思的张力在数字里。对过度积极操作六次漏一次,放在笔记本上写代码没问题;放在一个连着你邮箱和日历的助手上,之所以还能用,是因为最危险的那几个动作被写死了,根本不交给分类器判断。这才是这次真正的设计模式:一小撮任何模型都无权批准的动作,中间一大段交给分类器,人只守两头。
← 上一篇
LiteLLM 复盘:入侵起点是一个拿着组织所有者令牌、自动提 PR 的 agent
下一篇 →
Daytona 完成 6000 万美元 B 轮,估值 10 亿:给每个 agent 一台自己的电脑
← 返回所有文章

评论

加载中...
>_