Recursive Flint:MacBook 上每秒 131 个 token 的编程模型,开发团队说大部分是 AI 自己造的
10 月 21 日,Richard Socher 的实验室 Recursive 在 Hugging Face 发布了 Flint,Apache 2.0 协议。这是一个 MoE 编程模型,总参数 398 亿,每个 token 激活约 25 亿,256 个路由专家每次选 6 个,上下文 262144 token。TechCrunch 实测了它的卖点:M4 Pro 的 MacBook Pro 上每秒约 131 个 token,同一台电脑上 Gemma 4 和 Nemotron 3.5 Lightning 大约只有它的一半。链接:https://huggingface.co/RecursiveSI/flint
自报成绩:Terminal-Bench 2.1 是 54.9%,SWE-bench Verified 74.2%,SWE-bench Pro v2 89.7%,都是至少 5 次取平均,用的是现成 harness(Terminus 2 和 mini-swe-agent)。Recursive 自己的表格也老实承认,稠密的 Qwen3.8 27B 在六项平均上还是比它强。Flint 的说法更窄:总参数 500 亿以下的 MoE 里最强,而且快到本地编程 agent 终于不再是受罪。
更有意思的是它怎么造出来的。Recursive 说一个由人和 agent 组成的小团队,不到四个月从零做出来,自家的自动化研究系统 Eureka Machine 参与了几乎每一层。TechCrunch 点了具体贡献:更稀疏的模型形状,低比特训练把模型缩小 71% 而质量几乎不掉,还有定制 kernel。NVFP4 版本和 16 位版本只差 0.7 分。几个小时内社区就放出了 GGUF 和 MLX 量化版。
AI 造的这句话,在外部有人能审计这个循环之前,先当营销听。但归功给机器的那几块,恰好是自动搜索最擅长的:模型形状、量化配方、kernel,都是有一个数可以往上优化的东西。这是第一个被当成研究循环产物来卖的模型,而不是研究团队的产物。模型今天就能用,但它真正在推销的,是那个循环。
← 返回所有文章
自报成绩:Terminal-Bench 2.1 是 54.9%,SWE-bench Verified 74.2%,SWE-bench Pro v2 89.7%,都是至少 5 次取平均,用的是现成 harness(Terminus 2 和 mini-swe-agent)。Recursive 自己的表格也老实承认,稠密的 Qwen3.8 27B 在六项平均上还是比它强。Flint 的说法更窄:总参数 500 亿以下的 MoE 里最强,而且快到本地编程 agent 终于不再是受罪。
更有意思的是它怎么造出来的。Recursive 说一个由人和 agent 组成的小团队,不到四个月从零做出来,自家的自动化研究系统 Eureka Machine 参与了几乎每一层。TechCrunch 点了具体贡献:更稀疏的模型形状,低比特训练把模型缩小 71% 而质量几乎不掉,还有定制 kernel。NVFP4 版本和 16 位版本只差 0.7 分。几个小时内社区就放出了 GGUF 和 MLX 量化版。
AI 造的这句话,在外部有人能审计这个循环之前,先当营销听。但归功给机器的那几块,恰好是自动搜索最擅长的:模型形状、量化配方、kernel,都是有一个数可以往上优化的东西。这是第一个被当成研究循环产物来卖的模型,而不是研究团队的产物。模型今天就能用,但它真正在推销的,是那个循环。
评论