Holo4-27B abliterated 版 EXL3 4bpw 量化模型发布
基于的 timteh673/Holo4-27B-Abliterix 量化模型上架 Hugging Face,采用 EXL3 4bpw 量化,源自 Hcompany/Holo4-27B 的 BF16 全精度权重,拒绝方向消融由 timteh673 用 Abliterix 完成。仓库移除了悬空的 MTP 配置且不含 MTP 草稿模型,保留原生 tokenizer 和聊天模板,发布前已用 EXL3 加载并完成文本冒烟验证。该模型仅限 CC BY-NC 4.0 非商业使用,需使用兼容 EXL3 的推理软件。