跳到正文
热点事件观察中

Helmcode 发布 Qwen3.8-27B-Abliterated NVFP4 量化版

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Helmcode 发布了 Qwen3.8-27B-Abliterated 的 NVFP4 混合精度量化版本,按 NVIDIA 参考方案在 attention 投影、lm_head 和第 56-63 层 MLP 使用 FP8,其余 MLP 用 NVFP4,并在 64 条良性提示上完成校准。 量化对能力影响很小:与 BF16 版相比,MMLU-Pro 为 65.4% 对 66.1%(McNemar p=0.37,差异不显著),拒绝行为基本一致。 模型以 Apache 2.0 许可开源(继承基座模型许可),需用 vllm serve 并指定 --reasoning-parser qwen3 等参数提供服务。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. Hugging Face · 新模型:abliterated
    Helmcode/Qwen3.8-27B-Abliterated-NVFP4 混合精度量化版本发布

    Helmcode/Qwen3.8-27B-Abliterated 的 NVFP4 混合精度量化版本发布,采用 NVIDIA 参考方案:FP8 用于 attention 投影、lm_head 和第 56-63 层 MLP,其余 MLP 用 NVFP4,并在 64 条良性提示上校准。与 BF16 版相比,MMLU-Pro 为 65.4% vs 66.1%(McNemar p=0.37,不显著),拒绝行为基本一致。模型以 Apache 2.0 许可开源,需用 vllm serve 并指定 --reasoning-parser qwen3 等参数进行服务。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。