跳到正文
Hugging Face · 新模型:abliterated·· 13 天前AI 评分24

Qwen3.8-27B-abliterated EXL3 2.60 bpw 量化版(SC-SH)发布

Derpyhue/Qwen3.8-27B-abliterated-2.60bpw-SC-SH

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Derpyhue/Qwen3.8-27B-abliterated-2.60bpw-SC-SH

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Huihui-Qwen3.8-27B-abliterated 的 EXL3 2.60 bpw 量化(SC-SH)上线,基于 Qwen3.8-27B 的去审查版本,采用按张量噪声归因分配比特率并启用 scaled-Hessian,实测相对 abliterated BF16 参考困惑度增加 5.1%。量化占用约 11.96 GB,需 ExLlamaV3,可用 tabbyAPI 运行。基座为 27B 原生视觉语言模型,262K 原生上下文(可扩展至 1M),支持图像与视频理解。

来源:Hugging Face · 新模型:abliterated · huggingface.co