minimaxir:这轮降价降的是缓存读取,而且不会涨回去
Max Woolf(博客名 minimaxir)把 6 月 26 日以来 OpenAI 和 Anthropic 的每一次调价都按日期排在一张页面上,然后问了那个最直接的问题:两家为什么在几个月里降价降到最多 80%?文章给的答案很无聊,也很重要。对 coding agent 来说,账单的大头是缓存读取。
关键数字是这句:用 agent 写代码时,缓存读取占总 token 花费的 96% 到 99%。原因是缓存里装着整个不断变长的上下文,每一轮都要重读一遍。所以 Anthropic 发 Fable 5.1 时定价输入 10 美元、输出 50 美元、缓存读取 0.25 美元,并把缓存读取砍了 75%,实际使用成本就降了大约 70% 到 75%,哪怕输入输出的标价看着很贵。按同样的算法,Opus 5.5 的 4 / 20 / 0.20 美元相当于总成本降了 40% 到 60%。GPT-6 Sol 是 2 / 10 / 0.20 美元。
后半篇讲商品化。DeepSeek V4.1 Flash 的价格是 0.15 / 0.60 / 0.003 美元,OpenRouter 上有 29 家供应商在跑,5 月时还只有 13 家。Kimi K3.1 Pro 定价 2 / 10 / 0.20 美元,Artificial Analysis 打分 55,Opus 5.5 是 58,权重 11 月 4 日放出,之后那二十多家托管 Kimi K3 的服务商大多也能上。文章的结论是:token 价格会突然涨回去,更像是一种幻想。它点名的护城河是企业长约和个人 agent,比如 OpenAI Dots 和 Claude Duet,而不是 token 本身。
对开发者最有用的一点,是该盯哪个数。拿每百万 token 的输入输出价来比较模型,对 agent 负载已经基本没意义了。真正的成本是缓存读取单价乘以缓存命中率再乘以上下文能涨多长,这既是选供应商的问题,也是 harness 设计的问题。一个压缩做得好、前缀保持稳定的 harness,省下的钱可能比换一家模型还多。
原文:https://minimaxir.com/2026/10/cheap-llms/ HN:https://news.ycombinator.com/item?id=50236102
← 返回所有文章
关键数字是这句:用 agent 写代码时,缓存读取占总 token 花费的 96% 到 99%。原因是缓存里装着整个不断变长的上下文,每一轮都要重读一遍。所以 Anthropic 发 Fable 5.1 时定价输入 10 美元、输出 50 美元、缓存读取 0.25 美元,并把缓存读取砍了 75%,实际使用成本就降了大约 70% 到 75%,哪怕输入输出的标价看着很贵。按同样的算法,Opus 5.5 的 4 / 20 / 0.20 美元相当于总成本降了 40% 到 60%。GPT-6 Sol 是 2 / 10 / 0.20 美元。
后半篇讲商品化。DeepSeek V4.1 Flash 的价格是 0.15 / 0.60 / 0.003 美元,OpenRouter 上有 29 家供应商在跑,5 月时还只有 13 家。Kimi K3.1 Pro 定价 2 / 10 / 0.20 美元,Artificial Analysis 打分 55,Opus 5.5 是 58,权重 11 月 4 日放出,之后那二十多家托管 Kimi K3 的服务商大多也能上。文章的结论是:token 价格会突然涨回去,更像是一种幻想。它点名的护城河是企业长约和个人 agent,比如 OpenAI Dots 和 Claude Duet,而不是 token 本身。
对开发者最有用的一点,是该盯哪个数。拿每百万 token 的输入输出价来比较模型,对 agent 负载已经基本没意义了。真正的成本是缓存读取单价乘以缓存命中率再乘以上下文能涨多长,这既是选供应商的问题,也是 harness 设计的问题。一个压缩做得好、前缀保持稳定的 harness,省下的钱可能比换一家模型还多。
原文:https://minimaxir.com/2026/10/cheap-llms/ HN:https://news.ycombinator.com/item?id=50236102
评论