Hugging Face · 新模型:uncensored·· 2 小时前精选AI 评分54
Bum-ble 发布 GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版
Bum-ble/GLM-5.3-UNCENSORED-EXL3-3.0bpw
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Bum-ble/GLM-5.3-UNCENSORED-EXL3-3.0bpw
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Bum-ble 在 Hugging Face 发布 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版,平均码率 3.04 bpw,大小 273 GiB;上游去对齐版本是对 zai-org/GLM-5.3 直接改权重(未微调)的产物,改动记录在 CRACK_SURGERY.json。作者用 wikitext-2 给出与 FP8 源的 KL 散度等保真度数据,tau2-bench 对比相对 Z.ai FP8 原版差异在标准误范围内、无统计显著性;还在 8x A100 40GB 上用 TabbyAPI 验证,并提醒 glm4_5 解析器会把字符串参数误解码为整数,在 retail 场景曾致约 70% 工具调用失败,需先修复。许可为 MIT。
推荐理由
作者给出了 KL 散度和 tau2-bench 前后对比,并指出了 TabbyAPI 工具解析的具体坑,量化后表现有据可查。
来源:Hugging Face · 新模型:uncensored · huggingface.co