type
Post
status
Published
date
Nov 12, 2026
slug
inkling-2-small-open-weights-20261112
summary
理解 Inkling 2 Small 的总参数、活跃参数以及待确认的开放权重计划。
tags
category
技术分享
icon
password
Tweet Link
Staus
类型
平台
一个叫 Small 的模型,拥有 5940 亿个总参数。这组数字放在一起,容易让人以为名字写错了。
Thinking Machines Lab 在 11 月 5 日介绍了 Inkling 2 Small。它采用混合专家架构,总参数约 5940 亿,每个 token 计算时活跃约 170 亿参数,支持图像输入,也能调整推理投入。
公司选择先通过自己的 Tinker 平台提供模型,发布时没有开放权重。官方同时表示,计划在外部安全测试和红队测试完成后,按 Apache 2.0 许可开放完整权重。
这个计划有时间表述,但计划并不等于权重已经放出。截止本次核查,我没有找到能独立验证的下载入口,也无法排除其他渠道刚刚出现更新。需要自托管的人,最好以官方实际提供的文件和许可证为准。

数字大,计算方式有区别

普通读者看到 5940 亿参数,可能会直接把它理解为每回答一个问题都要完整运行的模型规模。混合专家架构并不这样工作。
可以把模型想成一组专长不同的处理单元。输入进入模型后,路由机制为不同 token 选择其中一部分参与计算。这使模型能拥有较大的总参数量,同时每个 token 只激活其中一部分。
Inkling 2 Small 的两个数字分别是 5940 亿总参数和约 170 亿活跃参数。前者描述整个模型的规模,后者描述每个 token 的活跃计算范围。它们回答的是不同问题。
但不要把 170 亿活跃参数直接换算成只需要容纳 170 亿参数的显存。实际部署还涉及权重如何放置、专家如何调度、并行方式、量化格式和上下文缓存。模型文件没开放之前,独立部署体验尤其难以验证。
名字里的 Small 也要放回产品系列看。它描述的是公司给这一代模型的定位,并不承诺可以在普通笔记本上轻松运行。
小时说的是哪一段
小时说的是哪一段

68 小时说的是哪一段

官方技术介绍里还有一个容易被误读的数字:初始预训练阶段使用了 8.4 万亿 token,在 NVIDIA GB300 NVL72 机架上运行了 68 小时。
这段描述只对应第一阶段。官方随后又介绍了其他预训练阶段以及后续训练工作。68 小时不能写成从零到发布的全部训练时间,更不能据此计算完整研发成本。
同样,公司的性能表有它的测试条件。模型在一些长流程任务中取得了值得关注的结果,但厂商自己选择的任务、比较对象和配置,不能自动代表每个用户的效果。需要对比时,应看清测试版本、推理设置、任务集和每次任务实际花费。
独立评测机构 Artificial Analysis 给出的 Intelligence Index 约为 31。另一篇技术分析引用其结果,并记录了约 1.18 美元每任务的测评成本。这个数字属于对应测试配置和任务,不代表所有调用都会花这么多,也不代表其他模型在相同工作负载下一定更便宜。
先托管,再决定开放
先托管,再决定开放

先托管,再决定开放

权重决定了用户能不能在自己的环境里部署、检查和修改模型。通过托管平台使用,通常更容易开始,但服务范围、调用方式和可用性由提供方控制。权重开放后,研究者和开发团队才有更多空间测试自托管与本地适配,实际仍要遵守发布时适用的许可证。
Thinking Machines 把这次发布分成两个阶段。公司说,先提供封闭权重服务,再视外部安全测试进展开放完整权重。这个做法给评估留了时间,也让希望自行部署的人需要等待。
官方文章同时讨论了模型的风险和限制。复杂任务中,模型可能偏离目标,也可能在不合适的地方花太多步骤。分数提高并不会消除应用部署中的权限管理和结果复核。
如果你想尝试它,可以先把一个已有的真实任务作为基线:记录输入、完成时间、成本和你需要人工修改的部分。等权重真的开放,再比较托管和自部署之间的差异。不要只用总参数量判断它适不适合自己的工作。
参考资料:
Word接入ChatGPT,写个周报、作文一键搞定-Windows版本Siri 要变成 AI 智能体?先分清苹果说了什么
Loading...