跳到正文
Hugging Face · 新模型:abliterated·· 13 天前AI 评分35

Qwen3.8-27B-abliterated EXL3 2.55 bpw 量化版(SC-SH)发布

Derpyhue/Qwen3.8-27B-abliterated-2.55bpw-SC-SH

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Derpyhue/Qwen3.8-27B-abliterated-2.55bpw-SC-SH

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Huihui-Qwen3.8-27B-abliterated 的 EXL3 2.55 bpw 量化(SC-SH)上线,平均码率 2.5494 bpw,磁盘占用约 11.81 GB,较 BF16 参考困惑度 1.3418 增加 5.1%。噪声归因与校准均在 abliterated 权重上重新测量,head/MTP 为 4.0 bpw、vision 为 6.0 bpw。需 ExLlamaV3,可用 tabbyAPI 运行;原模型为 27B 视觉语言模型,原生 262K 上下文可扩展至 1M。

来源:Hugging Face · 新模型:abliterated · huggingface.co