跳到正文
Hugging Face · 新模型:abliterated·· 21 天前精选AI 评分66

Huihui-Qwen3.8-Flash-Next-abliterated FP4 版发布,打包为 Infernix 单卡 32GB 本地运行

wallawalla47/Huihui-Qwen3.8-Flash-Next-abliterated-FP4-Local-Infernix

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/wallawalla47/Huihui-Qwen3.8-Flash-Next-abliterated-FP4-Local-Infernix

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

wallawalla47 在 Hugging Face 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 FP4-Local Infernix 打包,基于 edp1096 将 Huihui abliterated v2 的改动迁入 NVIDIA FP4-Local 检查点的版本,移除了原模型的拒绝行为且输出不过滤。迁移只改动 48 层各 2 个投影共 96 个权重,其余与 NVIDIA 检查点逐字节一致;实测困惑度总体仅高 0.21%,KL 散度均值 0.018,两个被 NVIDIA 版拒绝的测试请求此版均予回答,解码慢约 2-8%。

推荐理由

模型卡给出了 96 个被改动权重的具体迁移方法,以及拒绝行为、困惑度和解码速度的实测对比,可迁移性扎实。

来源:Hugging Face · 新模型:abliterated · huggingface.co