跳到正文
Hugging Face · 新模型:uncensored·· 9 天前精选AI 评分67

GLM-5.3 Uncensored Maya 量化版发布:753B MoE 压缩至约 2.5 bit 并移除拒绝行为

nofacedfl/GLM-5.3-Uncensored-Maya

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/nofacedfl/GLM-5.3-Uncensored-Maya

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

nofacedfl 在 Hugging Face 发布 GLM-5.3 Uncensored Maya 量化包,将 Z.AI 的 753B MoE 模型用 GPTQ 压到约 2.5 bit,配合 Project Maya 的 GLM-5.3 移植版引擎运行。在 7 张 GPU(5× RTX 4090 48 GB + 2× A100 40 GB)上达 43–57 tokens/s,支持 512K 上下文,JailbreakBench 拒绝率从原版 39/40 降到 2/40,其中量化后为 6/40,再通过 78 层×3 方向的拒绝向量在运行时投影移除降至 2/40;对 FP8 的 KL 为 0.204、top-1 一致率 88.4%。

推荐理由

原文给出完整的去对齐实现路径和 JailbreakBench 拒绝率前后对比,还附量化精度损失数据,可复现可核查。

来源:Hugging Face · 新模型:uncensored · huggingface.co