跳到正文
Hugging Face · 新模型:abliterated·· 9 天前精选AI 评分60

dealignai 发布 GLM-5.3 无对齐 FP8 权重版 v2

PenAgent/GLM-5.3-ABLITERATED-FP8

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/PenAgent/GLM-5.3-ABLITERATED-FP8

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

dealignai 发布 GLM-5.3-ABLITERATED-FP8 v2,对 GLM-5.3-FP8 做权重级去审查,仅修改 bf16 residual writer 张量、不动 FP8 专家,可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。附 TP8 H200 部署配置与 reasoning_effort 只认 low/high 等运行注意事项。

推荐理由

发布方给出了 MMLU 与 HarmBench-320 的前后对照数据,v2 版在消除推理循环的同时保留了约 87% 的 MMLU 水平。

来源:Hugging Face · 新模型:abliterated · huggingface.co