Helmcode 发布 Qwen3.8-27B-Abliterated NVFP4 量化版
热点事件观察中
Helmcode 发布 Qwen3.8-27B-Abliterated NVFP4 量化版
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Helmcode 发布了 Qwen3.8-27B-Abliterated 的 NVFP4 混合精度量化版本,按 NVIDIA 参考方案在 attention 投影、lm_head 和第 56-63 层 MLP 使用 FP8,其余 MLP 用 NVFP4,并在 64 条良性提示上完成校准。 量化对能力影响很小:与 BF16 版相比,MMLU-Pro 为 65.4% 对 66.1%(McNemar p=0.37,差异不显著),拒绝行为基本一致。 模型以 Apache 2.0 许可开源(继承基座模型许可),需用 vllm serve 并指定 --reasoning-parser qwen3 等参数提供服务。
AI 根据报道生成 · 2 天前更新
最新进展11月21日 00:31
Helmcode/Qwen3.8-27B-Abliterated-NVFP4 混合精度量化版本发布报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- Hugging Face · 新模型:abliteratedHelmcode/Qwen3.8-27B-Abliterated-NVFP4 混合精度量化版本发布
Helmcode/Qwen3.8-27B-Abliterated 的 NVFP4 混合精度量化版本发布,采用 NVIDIA 参考方案:FP8 用于 attention 投影、lm_head 和第 56-63 层 MLP,其余 MLP 用 NVFP4,并在 64 条良性提示上校准。与 BF16 版相比,MMLU-Pro 为 65.4% vs 66.1%(McNemar p=0.37,不显著),拒绝行为基本一致。模型以 Apache 2.0 许可开源,需用 vllm serve 并指定 --reasoning-parser qwen3 等参数进行服务。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。