Hugging Face · 新模型:abliterated·· 8 天前精选AI 评分68
Piecrust 发布 GLM-5.3-Flash-FP4-Abliterated 去对齐版本
Piecrust/GLM-5.3-Flash-FP4-Abliterated
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Piecrust/GLM-5.3-Flash-FP4-Abliterated
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Piecrust 将 Huihui 的拒绝方向消融编辑重新应用到 NVIDIA 的 GLM-5.3-Flash-FP4-Local 权重上,发布去对齐版本。仅改动 15 至 36 层的 44 个矩阵(self_attn.o_proj 与 mlp.shared_experts.down_proj),其余权重与原检查点逐字节一致;因 NVIDIA 做过量化感知蒸馏,编辑以 rank-1 方式重算而非直接套用 delta,重编码后保留 91-95% 编辑强度。实测在 2× RTX PRO 6000 Blackwell 上拒绝探针 12 问 0 拒绝(原版拒绝 2 次),GSM8K 94/96 对 95/96,解码速度基本持平;需 NVIDIA 列出的容器环境,上游 vLLM 暂不支持。
推荐理由
原文给出逐字节校验、拒绝探针前后对比和速度质量数据,可据此判断这个去对齐版本改了什么、代价多大。
来源:Hugging Face · 新模型:abliterated · huggingface.co