GLM-5.3-UNCENSORED EXL3 3.0bpw 量化版在 Hugging Face 发布
热点事件持续更新
GLM-5.3-UNCENSORED EXL3 3.0bpw 量化版在 Hugging Face 发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Hugging Face 上发布了 GLM-5.3-UNCENSORED 的 EXL3 量化版本,平均码率 3.04 bpw,体积 273 GiB,采用 MIT 许可。该量化版基于 dealignai/GLM-5.3-UNCENSORED-FP8,后者是对 zai-org/GLM-5.3 做权重编辑(非微调)得到的去审查变体。 量化细节上,注意力与共享专家为 5 bpw、稠密 MLP 为 4 bpw、路由专家为 3 bpw,lm_head 为 6 bpw。模型为 GlmMoeDsaForCausalLM 架构,总参数 753B,含 256 路由专家(激活 8 个)加 1 个共享专家,MTP 层可作投机草稿使用。 发布方称 tau2-bench 测试显示与 FP8 原版差异不具统计显著性,并已在 8x A100 上经 TabbyAPI 验证。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 03:46
GLM-5.3-UNCENSORED EXL3 3.0bpw 量化版发布报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- Hugging Face · 新模型:uncensoredGLM-5.3-UNCENSORED EXL3 3.0bpw 量化版发布
Hugging Face 上发布 GLM-5.3-UNCENSORED 的 EXL3 量化版本,平均码率 3.04 bpw,体积 273 GiB,基于 zai-org/GLM-5.3 的权重编辑(非微调)去审查变体。模型为 GlmMoeDsaForCausalLM 架构,753B 总参数、256 路由专家(8 激活)加 1 共享专家,MTP 层可作投机草稿。tau2-bench 测试显示与 FP8 原版差异不具统计显著性;在 8x A100 上经 TabbyAPI 验证,MIT 许可。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。