Hugging Face · 新模型:abliterated·· 18 天前精选AI 评分76
Blackfrost 发布 Qwen3.8-27B-ABLITERATED GGUF 量化版,残留拒绝率2.4%
asdasdadadsss/Qwen3.8-27B-ABLITERATED-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/asdasdadadsss/Qwen3.8-27B-ABLITERATED-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Blackfrost 发布了 Qwen3.8-27B 的 abliterated 版本 GGUF 量化包,权重级降低拒绝行为,附完整 K-quant 阶梯(Q2_K 至 Q8_0)和视觉投影文件。450例拒绝基准(150 AdvBench、150 StrongREJECT、150 XSTest)经人工复核后残留11例真拒绝,占2.4%;W4A4 NVFP4 衍生版的 WikiText-2 词困惑度为9.3677,上游 BF16 为8.4764。每个主量化内嵌 MTP 投机头,可单文件在 llama.cpp 运行;可选 BF16 DFlash2 sidecar 在 RTX PRO 6000 上配 Q4_K_M 达到109.31 tok/s 中位解码速度,需固定实验性 llama.cpp 实现。
推荐理由
原文给出450例拒绝基准的分阶段残留数据和量化档位清单,读者可据此判断该去对齐版本的拒绝率与部署成本。
来源:Hugging Face · 新模型:abliterated · huggingface.co