Hugging Face · 趋势模型·· 20 天前精选AI 评分71
面壁 MiniCPM-V 4.7 35B-A3B 发布,系列首个 MoE 多模态模型支持端侧推理
openbmb/MiniCPM-V-4.7-35B-A3B
来源与原文
Hugging Face · 趋势模型
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
面壁智能在 Hugging Face 开放 MiniCPM-V 4.7 35B-A3B,是 MiniCPM-V 系列首个 MoE 多模态模型。官方称借助 Lookahead Expert Scheduling、分层细粒度量化与 DSpark 投机采样,成为首个可无损流畅端侧运行的开源 MoE 模型,在 iPhone 17 Pro Max 上达到 13+ tokens/s;Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。
推荐理由
原文给出 LES 预取、分层量化和推测采样三条技术路径,解释了 MoE 在设备端跑顺的原理与部署选择。
来源:Hugging Face · 趋势模型 · huggingface.co