Hugging Face · 新模型:uncensored·· 19 天前AI 评分63
GLM-5.3 无对齐版 EXL3 3.0bpw 量化发布
araz4111/GLM-5.3-UNCENSORED-EXL3-3.0bpw
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/araz4111/GLM-5.3-UNCENSORED-EXL3-3.0bpw
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本,平均码率 3.04 bpw,总大小 273 GiB,基于 zai-org/GLM-5.3 的权重编辑无对齐变体,架构为 GlmMoeDsaForCausalLM,753B 参数、256 路由专家(8 激活)加 1 共享专家,包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据,以及 tau2-bench 智能体评测,与 Z.ai FP8 原版差异不具统计显著性;并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数,导致零售场景约 70% 工具调用失败,使用前需修复。
来源:Hugging Face · 新模型:uncensored · huggingface.co