Claude 消息线程:长任务 agent 终于不用每轮重传整段对话
以前长任务 agent 每走一轮,都要把整段对话连同截图和工具输出重新传一遍给 API。Anthropic 11 月 2 日开放公测的消息线程(message threads)把这事改了:第一次请求带完整历史,之后客户端只发新消息和上一次响应的 ID。
效果体现在延迟上,不是账单上。官方数据是请求体中位数从约 800 KB 降到 1.8 KB,50 万到 100 万 token 的请求,首 token 延迟中位数降了约 35%。大多数 Claude Code 用户已经默认开着。token 用量、价格和速率限制都不变,因为 Claude 每一轮还是要读完整段对话。说白了这是省上传、省网络,不是省钱。
真要接的话,细节要看清楚。加 thread 参数,带 beta 头 message-threads-2026-08-12。线程放在内存里,加密,不落盘。最后一次请求后 5 分钟过期,最长 1 小时内删除,过期后客户端得重新发全量。所以只要你的 agent 会停下来等人审批,或者等一个超过五分钟的慢工具,就还得保留全量重放的兜底逻辑。Claude API、AWS 上的 Claude Platform、Microsoft Foundry 和 Google Cloud 都能用。
更值得注意的是趋势:agent 的负载开始反过来塑造 API 设计。聊天大小的请求从来不需要这个,拖着上百万 token 上下文的 computer use 和 coding agent 需要,于是模型厂商开始围着它们改通信协议。
文档:https://claude.com/resources/articles/message-threads 更新日志:https://platform.claude.com/docs/en/release-notes/overview
← 返回所有文章
效果体现在延迟上,不是账单上。官方数据是请求体中位数从约 800 KB 降到 1.8 KB,50 万到 100 万 token 的请求,首 token 延迟中位数降了约 35%。大多数 Claude Code 用户已经默认开着。token 用量、价格和速率限制都不变,因为 Claude 每一轮还是要读完整段对话。说白了这是省上传、省网络,不是省钱。
真要接的话,细节要看清楚。加 thread 参数,带 beta 头 message-threads-2026-08-12。线程放在内存里,加密,不落盘。最后一次请求后 5 分钟过期,最长 1 小时内删除,过期后客户端得重新发全量。所以只要你的 agent 会停下来等人审批,或者等一个超过五分钟的慢工具,就还得保留全量重放的兜底逻辑。Claude API、AWS 上的 Claude Platform、Microsoft Foundry 和 Google Cloud 都能用。
更值得注意的是趋势:agent 的负载开始反过来塑造 API 设计。聊天大小的请求从来不需要这个,拖着上百万 token 上下文的 computer use 和 coding agent 需要,于是模型厂商开始围着它们改通信协议。
文档:https://claude.com/resources/articles/message-threads 更新日志:https://platform.claude.com/docs/en/release-notes/overview
评论