跳到正文
Hugging Face · 新模型:abliterated·· 8 天前精选AI 评分54

huginnfork 发布 Qwen3.8-Flash-Next NVFP4 去对齐版 CSF 容器

huginnfork/Qwen3.8-Flash-Next-NVFP4-MXFP8-CSF-QAD-Abliterated

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/huginnfork/Qwen3.8-Flash-Next-NVFP4-MXFP8-CSF-QAD-Abliterated

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

huginnfork 发布 Qwen3.8-Flash-Next-NVFP4-Abliterated v4 的 CSF 压缩容器,比原版小 3.58 GB,权重与 v4 逐位一致。消融在量化网格上原位进行,rank-1 拒绝方向取自第 46 层、alpha=1.0,共编辑 25,188 个张量;有害拒绝率从母模型的 136/136 降到 0/136,过度拒绝从 4/59 降到 0/59,GPQA 差异不显著(p=0.286)。需带 NVFP4-CSF reader 的 vLLM 源码构建才能加载,作者提醒该模型拒绝行为被有意降低,部署时需自备安全措施。

推荐理由

原文给出rank-1拒绝方向消融的具体参数和与母模型的有害拒绝率对照数据,读者可据此评估这个去对齐版本的实际改动幅度。

来源:Hugging Face · 新模型:abliterated · huggingface.co