Hugging Face · 新模型:abliterated·· 13 天前AI 评分24
Qwen3.8-27B-abliterated EXL3 2.60 bpw 量化版(SC-SH)发布
Derpyhue/Qwen3.8-27B-abliterated-2.60bpw-SC-SH
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Derpyhue/Qwen3.8-27B-abliterated-2.60bpw-SC-SH
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Huihui-Qwen3.8-27B-abliterated 的 EXL3 2.60 bpw 量化(SC-SH)上线,基于 Qwen3.8-27B 的去审查版本,采用按张量噪声归因分配比特率并启用 scaled-Hessian,实测相对 abliterated BF16 参考困惑度增加 5.1%。量化占用约 11.96 GB,需 ExLlamaV3,可用 tabbyAPI 运行。基座为 27B 原生视觉语言模型,262K 原生上下文(可扩展至 1M),支持图像与视频理解。
来源:Hugging Face · 新模型:abliterated · huggingface.co