跳到正文
Hugging Face · 趋势模型·· 20 天前精选AI 评分71

面壁 MiniCPM-V 4.7 35B-A3B 发布,系列首个 MoE 多模态模型支持端侧推理

openbmb/MiniCPM-V-4.7-35B-A3B

来源与原文

Hugging Face · 趋势模型

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

面壁智能在 Hugging Face 开放 MiniCPM-V 4.7 35B-A3B,是 MiniCPM-V 系列首个 MoE 多模态模型。官方称借助 Lookahead Expert Scheduling、分层细粒度量化与 DSpark 投机采样,成为首个可无损流畅端侧运行的开源 MoE 模型,在 iPhone 17 Pro Max 上达到 13+ tokens/s;Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。

推荐理由

原文给出 LES 预取、分层量化和推测采样三条技术路径,解释了 MoE 在设备端跑顺的原理与部署选择。

来源:Hugging Face · 趋势模型 · huggingface.co