跳到正文
Hugging Face Blog·· 3 天前精选AI 评分71

Hugging Face 发布 Thinking Machines Lab 的 Inkling 2 Mini 本地多模态 MoE 模型

Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

来源与原文

Hugging Face Blog

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/blog/inkling2mini

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 与 Thinking Machines Lab 发布 Inkling 2 Mini,一个面向本地部署的多模态 MoE 模型,约 26B 总参数、每 token 3B 激活,通过 12 个中间层循环 3 次的方式以 24 个物理层实现 48 层访问,层间用 cross-pass messages 传递信息。模型支持 1M token 上下文、图像与文本输入,提供 NVFP4 与 MXFP8 混合精度权重和 DSpark 投机解码草稿模型;官方 vibe 测试认为其至少可与 Qwen 3.8 27B 相比,在 Artificial Analysis Intelligence Index v5 同级领先,48 项基准中 32 项领先。

推荐理由

这篇详细拆解了循环层与 cross-pass 消息的架构设计,并给出推理部署与量化方案,适合想了解本地 MoE 新架构的读者。

来源:Hugging Face Blog · huggingface.co