跳到正文
热点事件持续更新

dealignai 发布 GLM-5.3 去对齐 FP8 模型 v2

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

dealignai 在 Hugging Face 发布 GLM-5.3-ABLITERATED-FP8 v2,对基座 zai-org/GLM-5.3(753B)做权重级去审查,仅修改 bf16 residual writer 张量、不动 FP8 专家,可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。该版本采用 MIT 许可,发布方称其为真正的权重修改,不涉及微调、LoRA、运行时钩子或提示技巧。 v2 修复了 v1 在约 2% 高难度提示上出现的推理循环问题,HB-320 上 GARBAGE 从 7 降为 0,代价是整体 TRUE_COMPLY 下降约 4pp;在非版权的 240 项真实伤害行为上表现更强,off 档 TRUE_COMPLY 达 91.7%(对比 85.9%)。MMLU 为 87.43%,较原基座 +1.85pp。运行时需注意 reasoning_effort 只认 low/high,若用 high/max 需设 max_tokens ≥ 8000。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Hugging Face · 新模型:abliterated精选
    dealignai 发布 GLM-5.3 无对齐 FP8 版本 v2,附带拒绝率与 MMLU 实测数据

    dealignai 在 Hugging Face 发布 GLM-5.3-ABLITERATED-FP8 v2,对基座 zai-org/GLM-5.3(753B、glm_moe_dsa 架构)做权重级去审查,只修改 bf16 residual writer 张量,FP8 专家路由不变,可直连 stock vLLM 以原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难提示上出现的推理循环坍缩(HB-320 上 GARBAGE 从 7 降到 0),代价是整体 TRUE_COMPLY 下降约 4pp,但在非版权的 240 项真实伤害行为上更强(off 档 91.7% vs 85.9%);MMLU 为 87.43%,较原基座 +1.85pp。

10月19日
  1. Hugging Face · 新模型:abliterated精选
    dealignai 发布 GLM-5.3 无对齐 FP8 权重版 v2

    dealignai 发布 GLM-5.3-ABLITERATED-FP8 v2,对 GLM-5.3-FP8 做权重级去审查,仅修改 bf16 residual writer 张量、不动 FP8 专家,可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。附 TP8 H200 部署配置与 reasoning_effort 只认 low/high 等运行注意事项。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。