跳到正文
热点事件持续更新

GLM-5.3-UNCENSORED EXL3 3.0bpw 量化版在 Hugging Face 发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Hugging Face 上发布了 GLM-5.3-UNCENSORED 的 EXL3 量化版本,平均码率 3.04 bpw,体积 273 GiB,采用 MIT 许可。该量化版基于 dealignai/GLM-5.3-UNCENSORED-FP8,后者是对 zai-org/GLM-5.3 做权重编辑(非微调)得到的去审查变体。 量化细节上,注意力与共享专家为 5 bpw、稠密 MLP 为 4 bpw、路由专家为 3 bpw,lm_head 为 6 bpw。模型为 GlmMoeDsaForCausalLM 架构,总参数 753B,含 256 路由专家(激活 8 个)加 1 个共享专家,MTP 层可作投机草稿使用。 发布方称 tau2-bench 测试显示与 FP8 原版差异不具统计显著性,并已在 8x A100 上经 TabbyAPI 验证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Hugging Face · 新模型:uncensored
    GLM-5.3-UNCENSORED EXL3 3.0bpw 量化版发布

    Hugging Face 上发布 GLM-5.3-UNCENSORED 的 EXL3 量化版本,平均码率 3.04 bpw,体积 273 GiB,基于 zai-org/GLM-5.3 的权重编辑(非微调)去审查变体。模型为 GlmMoeDsaForCausalLM 架构,753B 总参数、256 路由专家(8 激活)加 1 共享专家,MTP 层可作投机草稿。tau2-bench 测试显示与 FP8 原版差异不具统计显著性;在 8x A100 上经 TabbyAPI 验证,MIT 许可。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。