Hugging Face 发布 Thinking Machines 的本地模型 Inkling 2 Mini
先了解这件事
Hugging Face 与 Thinking Machines Lab 合作发布 Inkling 2 Mini,一个面向本地部署的开源多模态 MoE 模型,总参数约 26B、每 token 激活 3B,支持 1M token 上下文和图像、文本输入。 模型架构上通过 12 个中间层循环 3 次,以 24 个物理层实现 48 层访问,层间用 cross-pass messages 传递信息。官方提供 NVFP4 与 MXFP8 混合精度权重、DSpark 投机解码草稿模型,并附带 GGUF 4-bit(IQ4_NL)和 8-bit(Q8_0)量化版本; transformers、llama.cpp 和 MLX 均提供支持,SGLang 提供数据中心硬件上的首日推理支持,本地运行需 SM103 硬件。 官方称其 vibe 测试表现至少可与 Qwen 3.8 27B 相比,在 Artificial Analysis Intelligence Index v5 同级领先,48 项基准中 32 项领先。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face Blog精选Hugging Face 发布 Thinking Machines Lab 的 Inkling 2 Mini 本地多模态 MoE 模型
Hugging Face 与 Thinking Machines Lab 发布 Inkling 2 Mini,一个面向本地部署的多模态 MoE 模型,约 26B 总参数、每 token 3B 激活,通过 12 个中间层循环 3 次的方式以 24 个物理层实现 48 层访问,层间用 cross-pass messages 传递信息。模型支持 1M token 上下文、图像与文本输入,提供 NVFP4 与 MXFP8 混合精度权重和 DSpark 投机解码草稿模型;官方 vibe 测试认为其至少可与 Qwen 3.8 27B 相比,在 Artificial Analysis Intelligence Index v5 同级领先,48 项基准中 32 项领先。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 411月21日 14:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。