Hugging Face · 新模型:abliterated·· 13 天前AI 评分35
Qwen3.8-27B-abliterated EXL3 2.55 bpw 量化版(SC-SH)发布
Derpyhue/Qwen3.8-27B-abliterated-2.55bpw-SC-SH
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Derpyhue/Qwen3.8-27B-abliterated-2.55bpw-SC-SH
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Huihui-Qwen3.8-27B-abliterated 的 EXL3 2.55 bpw 量化(SC-SH)上线,平均码率 2.5494 bpw,磁盘占用约 11.81 GB,较 BF16 参考困惑度 1.3418 增加 5.1%。噪声归因与校准均在 abliterated 权重上重新测量,head/MTP 为 4.0 bpw、vision 为 6.0 bpw。需 ExLlamaV3,可用 tabbyAPI 运行;原模型为 27B 视觉语言模型,原生 262K 上下文可扩展至 1M。
来源:Hugging Face · 新模型:abliterated · huggingface.co