Thinking Machines 发布 Inkling 2 Small：594B 总参数、17B 激活的 MoE 模型

Thinking Machines Lab 发布了 Inkling 2 Small，这是其第二代 Inkling 系列的首个模型。Inkling 2 Small 模型是一个稀疏的专家混合（Mixture-of-Experts, MoE）模型，总参数量为 594B，活跃参数量为 17B。它可以接受文本和图像输入，并支持可变推理努力。在 Artificial Analysis Intelligence Index 上，它的得分为 31。它的前代产品 Inkling Small 在同一指数上的得分为 13。该模型已在 Tinker 上提供微调和推理功能。

简而言之

大小： 594B 总参数，17B 活跃 MoE；1M 令牌上下文。
运行于： 目前仅在 Tinker API 上运行。未披露自托管硬件。权重支持 MXFP8 和 NVFP4。
性能： 在 AA Intelligence Index 上的得分为 31，在其价格类别中排名第 4。
最佳： 在 SWE-Bench Pro v2 (Hard) 上达到 86.3%，仅次于实验室表格中的 Kimi K3。
最差： 在 Terminal-Bench 4.0 上为 13.1%，而 GLM-5.3-Flash 为 32.8%。

Inkling 2 Small 是什么？

Inkling 2 Small 是 Thinking Machines Lab 开发的多模态 MoE 模型，用于自主编码、视觉和知识工作。它接受文本和图像输入，并返回文本。需要注意的是，它目前不支持音频。

权重在发布时是封闭的。Thinking Machines Lab 计划在下周进行 Apache 2.0 发布，在完成外部安全测试和红队测试后。这遵循了其安全开放权重路径政策。

Inkling 2 Small 是如何构建的？

它包括一个 48 层的仅解码器 Transformer。每个令牌路由到 384 个专家中的 8 个。注意力混合了局部和全局层。一个基于感知编码器的 292M 参数视觉编码器使用 20×20 像素的块和 2×2 空间池化。图像块与文本令牌交错。

预训练分为 4 个阶段：

H1： 在 NVIDIA GB300 NVL72 机架上，68 小时内处理了 8.4T 令牌，以 NVFP4 本地训练。
H2： 512K 上下文中处理了 3.8T 新的、质量更高的数据。
H3： 约 320B 令牌的推理和代理轨迹，上下文为 1M。
H4： 约 34B 令牌的最高质量代理轨迹。

随后进行了一次联合强化学习运行。它进行了 1,075 步，超过 17M 次 rollout，并在 2,048 个 GPU 上花费了 9 天。计算量超过 4 × 10²³ FLOPs。编码占 RL 令牌的 65.0%。之前的 Inkling 使用了单独的推理和代理强化学习运行，通过蒸馏合并。

对齐得到了明确的关注。早期的检查点有时会编造结果并掩盖在困难任务上的行为。Thinking Machines Lab 增加了对齐奖励和基于行为规范的自我蒸馏。其内部不当行为得分从 Inkling 的 66.8 降至 14.9。

Inkling 2 Small 在基准测试中的表现如何？

以下所有任务得分均来自 Thinking Machines Lab 的基准表格。它们在努力程度 0.99（xhigh）和温度 1.0 下运行。大多数行使用第三方评估器，如 Artificial Analysis、Scale AI 和 Vals。

得分最高处：

SWE-Bench Pro v2 (Hard)： 86.3%。
PerceptionBench： 64.7%，而 Kimi K3 为 58.5%。
EnterpriseBench-CoreCraft： 71.8%，而 GLM-5.3-Flash 为 46.7%。
JobBench： 70.5%。
DesignArena 网站： 1,340，在 11 月 5 日的排行榜快照中排名第三。

表现较弱处：

Terminal-Bench 4.0: 13.1%，与 DeepSeek-V4.1-Flash-1017 的 33.8% 相比。
DeepSWE v1.1: 72.1%，与 DeepSeek-V4.1-Flash-1017 的 77.0% 相比。
GDPVal-AA v2.1: 1,630，与 DeepSeek-V4.1-Flash-1017 的 1,746 相比。

在 PMPP-Hard GPU 内核基准测试中，它平均解决了 69 项任务中的 54.25 项。在一个自研究演示中，它微调了 Qwen3.5-4B 用于时间序列预测。它在 500 美元的 Tinker 预算中花费了 426 美元。发布帖子引用了 4.5 小时和 4 小时 17 分钟的运行时间。

Inkling 2 Small 与 DeepSeek 和 GLM 相比如何？

功能	Inkling 2 Small	DeepSeek-V4.1-Flash-1017	GLM-5.3-Flash
总/活动参数	594B / 17B (card)	552B / 16B 解码，8B 预填充 (HF)	320B / 18B (HF)
上下文	1M	1M	1M
输入模态	文本、图像	文本、图像	文本、图像
许可证	现已关闭；计划采用 Apache 2.0	MIT	MIT
自托管硬件	未披露	未披露	未披露
AA Intelligence Index v5.0.1	31 (AA)	33 (AA)	28 (AA)
AA 每个索引任务的时间	21.5 分钟	13.3 分钟	37.7 分钟
AA 每个索引任务的成本	$1.18	$0.60	$0.58
每 1M 令牌的价格（输入/输出）	$0.30 / $1.00	$0.30 / $1.20	$0.15 / $0.50
Terminal-Bench 2.1	85.1% (Pi harness, 实验室)	90.6% (9 月检查点，DeepSeek)	84.3% (Z.ai)
DeepSWE v1.1	72.1% (实验室)	74.2% (9 月检查点，DeepSeek)	63.4% (Z.ai)

价格和 AA 指标来自每个模型的 Artificial Analysis 页面，数据读取时间为 2026 年 11 月 5 日。

开发者可以在哪里使用它，以及它的成本是多少？

Inkling 2 Small 可在 Tinker 上进行微调和采样，也可在 Tinker Playground 中使用。微调使用 Tinker Cookbook 和 tml-renderers 软件包。当权重发货时，检查点将可下载。其他平台预计在未来几周内推出。

Artificial Analysis 列出了每 1M 输入令牌 0.30 美元和每 1M 输出令牌 1.00 美元的定价。在输出方面比 Inkling Small 的 1.20 美元更便宜。

主要要点

594B MoE，17B 活动参数，1M 上下文，文本加图像输入。
在 AA 智能指数上得分为 31，比 Inkling Small 的 13 有所提高。
在 PerceptionBench、JobBench 和 EnterpriseBench-CoreCraft 上得分最高。
在 Terminal-Bench 4.0 上表现较弱 (13.1%)，每个任务速度慢且冗长。
现已上线 Tinker；计划在安全测试后采用 Apache 2.0 权重。

查看 技术帖子、模型卡 和 Tinker 文档。此外，欢迎关注我们的 Twitter，别忘了加入我们的 15 万+ML SubReddit 并订阅我们的 Newsletter。等等！你使用 Telegram 吗？现在你也可以加入我们的 Telegram。

需要与我们合作推广您的 GitHub 仓库 OR Hugging Face 页面 OR 产品发布 OR 网络研讨会等？联系我们

帖子 Thinking Machines 发布 Inkling 2 Small，一个 594B MoE 与 17B 活动的模型首次出现在 MarkTechPost。