2026年8月17日ResearchInfrastructureBenchmark

LLMRouter 把路由的价值算出来了:14.6%。Stripe 刚花 70 亿表示同意。

Tao Feng、Jiaxuan You 等十二人 8 月 7 日在 arXiv 挂出 LLMRouter,之后一直挂在 HuggingFace 论文榜前列。时机有点好笑——一篇论证模型路由为什么重要的论文,发出来九天后 Stripe 把市面上最大的路由器买走了。

核心动作是把路由当成一个序贯决策过程,而不是一张查找表。拆成五块:上下文编码器、模型编码器、打分函数、决策规则、学习信号。一旦这么写,任何人做过的任何路由方案都变成这五个格子里各填一个具体选择,于是就能真的拿来对比。仓库里按这个骨架实现了十六种以上的路由器。

主结果是学出来的路由器比最强的那个固定模型相对高 14.6%。不是"比平均模型强",是比你能挑到的最好的那个、一直用下去还要强。这个数字撑起了整个品类的合理性,而且这是我第一次看到它被干净地量出来,而不是在发布博客里被声称出来。

对做东西的人来说,另外两个发现更要紧。成本预算越紧,轻量便宜的路由器相对越有优势——而这正是 agent 真实待着的区间:几千次调用,大部分根本不值得用前沿模型。还有,按用户条件路由能提升个性化效果,意思是该用哪个模型取决于谁在问,不只是问了什么。

他们还放了 xRouteBench,覆盖通用 LLM、带记忆、视觉、时序和个性化路由。一个研究方向要摆脱靠感觉,靠的就是 benchmark,而路由这件事已经靠感觉靠了两年。https://arxiv.org/abs/2608.06867
← 上一篇
Anthropic 的 IPO 定价,押在一个 2028 年没人能核实的数字上
下一篇 →
LycheeMemory V2:晚一点写,成本降 86%
← 返回所有文章

评论

加载中...
>_