darask0 发布 GLM-5.3-Flash-Uncensored 的 IQ2/IQ3 优化量化版

darask0 在 Hugging Face 发布 GLM-5.3-Flash-Uncensored 的 IQ2/IQ3 混合量化版，基于 orcarouter 的 FP8 源模型转换，两个 GGUF 分片共 83.707 GiB。该版本保留全部 45 层文本主干和 42 个路由层中的 288 个专家，采用校准和 GPTQ 误差反馈，路由专家主要用 IQ2_XXS、重要下投影用 IQ3_XXS。在 RTX PRO 6000 96 GB 上实测 256 输入时 decode 91.0 tokens/s，需自建补丁版 Maya 运行时，与原版 llama.cpp、LM Studio、Ollama 的兼容性未经验证。