Hugging Face · 趋势模型·· 22 天前精选AI 评分69
NVIDIA 发布 Nemotron-3.5-Bolt-E4B-4GB 量化小模型
nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
来源与原文
Hugging Face · 趋势模型
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
NVIDIA 在 Hugging Face 发布 NVIDIA-Nemotron-3.5-Bolt-E4B-4GB,从 Gemma-4-E4B-it 后训练而来,Q4_K_M 量化、总参数 8B(有效 4B),上下文最长 64K tokens,采用 OpenMDW-1.1 许可。模型主打低内存、低 TTFT 的本地语音助手、交互人格和嵌入式接口,支持多轮工具调用、指令遵循、可开关的思考模式与运行时思考预算,可搭配 DFlash drafter 做投机解码,llama.cpp 部署,10/23/2026 GA。
推荐理由
官方给出了 BF16 与 Q4_K_M 两档精度、多组同类小模型的同基准横向对比数据,读者可直接核对这个 4GB 级小模型的实际水平。
来源:Hugging Face · 趋势模型 · huggingface.co