Thinking Machines 憋了一年,一出手就是 975B 开源权重
Mira Murati 的实验室是过去一年 AI 圈最响亮的沉默。融了几十亿,把 OpenAI 半个对齐和研究团队挖了过来,发过几篇博客,但你真正能下载的东西一个没有。今天这个局面结束了。Inkling 发布,而且不是玩具。
这是一个混合专家架构的 transformer,总参数 9750 亿,激活 410 亿,上下文窗口 100 万 token。预训练用了 45 万亿 token,横跨文本、图像、音频和视频,后训练又砸进去超过 3000 万次强化学习 rollout。架构上它没用主流的 RoPE,改用相对位置编码,还把滑动窗口注意力和全局注意力按 5 比 1 交错——这是在赌长上下文真的能用,而不是塞进窗口就算数。
成绩单接近前沿。AIME 2026 拿到 97.1,GPQA Diamond 87.2,SWEBench Verified 77.6。做 agent 的人应该盯着 SWEBench 这个数字,因为它意味着这东西能真的去关掉 GitHub 上的 issue,而不是只会答题。而且整个模型是开源权重,挂在 Hugging Face 上,能在他们的 Tinker 平台上微调,不想自己跑 975B 的话还能通过 Together 和 Fireworks 调用。
它的意义超出榜单上又多一个模型。一个顶级的、前 OpenAI 班底的实验室,把一个接近前沿的多模态模型直接放进了公共领域,还内置了"思考多努力"的旋钮和校准过的不确定性。开源前沿不再只属于中国的几家实验室和 Meta。Murati 选择用送出权重的方式来竞争,这重新定义了谁有资格在一个自己完全掌控的模型上,去搭真正严肃的 agent。
细节和权重在 https://thinkingmachines.ai/news/introducing-inkling/
← 返回所有文章
这是一个混合专家架构的 transformer,总参数 9750 亿,激活 410 亿,上下文窗口 100 万 token。预训练用了 45 万亿 token,横跨文本、图像、音频和视频,后训练又砸进去超过 3000 万次强化学习 rollout。架构上它没用主流的 RoPE,改用相对位置编码,还把滑动窗口注意力和全局注意力按 5 比 1 交错——这是在赌长上下文真的能用,而不是塞进窗口就算数。
成绩单接近前沿。AIME 2026 拿到 97.1,GPQA Diamond 87.2,SWEBench Verified 77.6。做 agent 的人应该盯着 SWEBench 这个数字,因为它意味着这东西能真的去关掉 GitHub 上的 issue,而不是只会答题。而且整个模型是开源权重,挂在 Hugging Face 上,能在他们的 Tinker 平台上微调,不想自己跑 975B 的话还能通过 Together 和 Fireworks 调用。
它的意义超出榜单上又多一个模型。一个顶级的、前 OpenAI 班底的实验室,把一个接近前沿的多模态模型直接放进了公共领域,还内置了"思考多努力"的旋钮和校准过的不确定性。开源前沿不再只属于中国的几家实验室和 Meta。Murati 选择用送出权重的方式来竞争,这重新定义了谁有资格在一个自己完全掌控的模型上,去搭真正严肃的 agent。
细节和权重在 https://thinkingmachines.ai/news/introducing-inkling/
评论