Hugging Face · 新模型:abliterated·· 17 天前AI 评分33
Holo4-27B abliterated 版 EXL3 4bpw 量化模型发布
groxaxo/Holo4-27B-abliterated-exl3-4bpw
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/groxaxo/Holo4-27B-abliterated-exl3-4bpw
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
基于的 timteh673/Holo4-27B-Abliterix 量化模型上架 Hugging Face,采用 EXL3 4bpw 量化,源自 Hcompany/Holo4-27B 的 BF16 全精度权重,拒绝方向消融由 timteh673 用 Abliterix 完成。仓库移除了悬空的 MTP 配置且不含 MTP 草稿模型,保留原生 tokenizer 和聊天模板,发布前已用 EXL3 加载并完成文本冒烟验证。该模型仅限 CC BY-NC 4.0 非商业使用,需使用兼容 EXL3 的推理软件。
来源:Hugging Face · 新模型:abliterated · huggingface.co