Qwen3.8-27B无审查模型推出AWQ与MLX量化版
先了解这件事
TheUnderscore 在 Hugging Face 发布 Qwen3.8-27B-Ultimate-Heretic-Uncensored-W4A16-AWQ,把 DavidAU 的无审查微调模型从 55.7 GB 压缩到 19.6 GB。量化用 llmcompressor oneshot 配合 AWQModifier,MLP 与注意力层为 int4 的 W4A16_ASYM 128 分组,in_proj_a/b、lm_head、embed_tokens、visual、mtp 和 norms 保持 BF16;许可沿用微调的 Apache-2.0,发布者称已用 1Cat-vLLM(compressed-tensors、SM70 kernels)测试。 随后 tstepspam 发布同一微调的 Q8-MLX 版本,提供 MLX 格式的 Q8 量化,可通过 mlx-lm 加载生成文本或启动 OpenAI 兼容本地服务器,并接入 Pi、Hermes Agent、OpenClaw 等工具。
AI 根据报道生成 · 11 小时前更新
事件进展
2 个进展
- 11月7日 06:08 · 1 篇报道发布Qwen3.8-27B去审查Q8量化版Hugging Face · 新模型:uncensored:Qwen3.8-27B-Ultimate-Heretic-Uncensored-Q8-MLX 在 MLX 上的使用指南
- 11月7日 00:55 · 1 篇报道发布Qwen3.8-27B无审查模型AWQ量化版Hugging Face · 新模型:uncensored:Qwen3.8-27B-Ultimate-Heretic-Uncensored 发布 W4A16-AWQ 量化版
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:uncensoredQwen3.8-27B-Ultimate-Heretic-Uncensored-Q8-MLX 在 MLX 上的使用指南
Hugging Face 上线 tstepspam/Qwen3.8-27B-Ultimate-Heretic-Uncensored-Q8-MLX,提供 MLX 格式的 Q8 量化版本。可通过 mlx-lm 加载生成文本或启动 OpenAI 兼容本地服务器,并接入 Pi、Hermes Agent、OpenClaw 等工具。
- Hugging Face · 新模型:uncensoredQwen3.8-27B-Ultimate-Heretic-Uncensored 发布 W4A16-AWQ 量化版
Hugging Face 上线 TheUnderscore/Qwen3.8-27B-Ultimate-Heretic-Uncensored-W4A16-AWQ,将 DavidAU/Qwen3.8-27B-Ultimate-Heretic-Uncensored 从 55.7 GB 压缩至 19.6 GB。该量化采用 llmcompressor oneshot 配合 AWQModifier,MLP 与注意力层为 W4A16_ASYM(int4)128 分组,in_proj_a/b、lm_head、embed_tokens、visual、mtp、norms 保持 BF16。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月7日 07:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。