NVIDIA 发布 Nemotron-3.5-Bolt-E4B 开放权重小模型，unsloth 提供 GGUF 量化版

NVIDIA 于 10 月 23 日在 Hugging Face 发布 NVIDIA-Nemotron-3.5-Bolt-E4B-4GB，由 Gemma-4-E4B-it 后训练而来，总参数 8B（有效 4B），上下文 64K，采用 OpenMDW-1.1 许可。模型面向本地语音助手、交互式人格和嵌入式界面，强化多轮工具调用与指令遵循，支持通过 chat-template 开关思考模式、运行时思考预算、会话模式和异步工具调用，可搭配 DFlash drafter 做投机解码。模型卡附上与 Gemma4 E4B-it、Qwen3.5 4B 等在 BF16 和 Q4_K_M 两种精度下的基准对比，并公开了预训练和后训练数据清单；unsloth 提供 Q4_K_M GGUF 量化版及 llama.cpp 部署命令。