跳到正文
我的
热点事件持续更新

Qwen3.8-27B无审查模型推出AWQ与MLX量化版

2 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

TheUnderscore 在 Hugging Face 发布 Qwen3.8-27B-Ultimate-Heretic-Uncensored-W4A16-AWQ,把 DavidAU 的无审查微调模型从 55.7 GB 压缩到 19.6 GB。量化用 llmcompressor oneshot 配合 AWQModifier,MLP 与注意力层为 int4 的 W4A16_ASYM 128 分组,in_proj_a/b、lm_head、embed_tokens、visual、mtp 和 norms 保持 BF16;许可沿用微调的 Apache-2.0,发布者称已用 1Cat-vLLM(compressed-tensors、SM70 kernels)测试。 随后 tstepspam 发布同一微调的 Q8-MLX 版本,提供 MLX 格式的 Q8 量化,可通过 mlx-lm 加载生成文本或启动 OpenAI 兼容本地服务器,并接入 Pi、Hermes Agent、OpenClaw 等工具。

AI 根据报道生成 · 11 小时前更新

事件进展

2 个进展

  1. 11月7日 06:08 · 1 篇报道
    发布Qwen3.8-27B去审查Q8量化版
    Hugging Face · 新模型:uncensored:Qwen3.8-27B-Ultimate-Heretic-Uncensored-Q8-MLX 在 MLX 上的使用指南
  2. 11月7日 00:55 · 1 篇报道
    发布Qwen3.8-27B无审查模型AWQ量化版
    Hugging Face · 新模型:uncensored:Qwen3.8-27B-Ultimate-Heretic-Uncensored 发布 W4A16-AWQ 量化版

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. Hugging Face · 新模型:uncensored
    Qwen3.8-27B-Ultimate-Heretic-Uncensored-Q8-MLX 在 MLX 上的使用指南

    Hugging Face 上线 tstepspam/Qwen3.8-27B-Ultimate-Heretic-Uncensored-Q8-MLX,提供 MLX 格式的 Q8 量化版本。可通过 mlx-lm 加载生成文本或启动 OpenAI 兼容本地服务器,并接入 Pi、Hermes Agent、OpenClaw 等工具。

  2. Hugging Face · 新模型:uncensored
    Qwen3.8-27B-Ultimate-Heretic-Uncensored 发布 W4A16-AWQ 量化版

    Hugging Face 上线 TheUnderscore/Qwen3.8-27B-Ultimate-Heretic-Uncensored-W4A16-AWQ,将 DavidAU/Qwen3.8-27B-Ultimate-Heretic-Uncensored 从 55.7 GB 压缩至 19.6 GB。该量化采用 llmcompressor oneshot 配合 AWQModifier,MLP 与注意力层为 W4A16_ASYM(int4)128 分组,in_proj_a/b、lm_head、embed_tokens、visual、mtp、norms 保持 BF16。

本事件热度走势

可比范围当前
7
可比范围峰值
1011月7日 07:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。