GLM-5.3 无对齐版 EXL3 3.0bpw 量化发布
araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本,平均码率 3.04 bpw,总大小 273 GiB,基于 zai-org/GLM-5.3 的权重编辑无对齐变体,架构为 GlmMoeDsaForCausalLM,753B 参数、256 路由专家(8 激活)加 1 共享专家,包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据,以及 tau2-bench 智能体评测,与 Z.ai FP8 原版差异不具统计显著性;并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数,导致零售场景约 70% 工具调用失败,使用前需修复。