跳到正文
热点事件持续更新

NeosQ 发布越狱版 Qwen3.8 的 UD-Q4_K_XL 量化

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

NeosQ 在 Hugging Face 发布 Qwen3.8-Flash-Next 越狱版(orcarouter/Qwen3.8-Flash-Next-Uncensored)的 UD-Q4_K_XL 量化 GGUF,参考官方 Unsloth 逐 tensor 类型表与公开 imatrix 复刻,上游越狱权重沿用 Apache-2.0。该量化自带 MTP draft head(Q8_0)与视觉塔(BF16),主干 5.03 BPW、总计 108.39 GiB,原生上下文 262,144。 在 AMD Strix Halo 上用 Gufo 与 Halogen 实测 decode 32~40 tok/s,MTP 推测解码正常;若缺 MTP head 会静默关闭推测解码,吞吐下降 30% 以上。发布者提示:该架构的 KV cache 量化(-ctk q8_0 / -ctv q8_0)会 abort,KV 需保持 f16。

AI 根据报道生成 · 18 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. Hugging Face · 新模型:uncensored
    Qwen3.8-Flash-Next-Uncensored 发布 UD-Q4_K_XL 量化版(GGUF)

    Hugging Face 用户发布 Qwen3.8-Flash-Next 越狱版(orcarouter/Qwen3.8-Flash-Next-Uncensored)的 UD-Q4_K_XL 风格量化,复刻官方 Unsloth 类型表,主干 5.03 BPW、总计 108.39 GiB,附带 MTP draft head(Q8_0)与视觉塔(BF16),原生上下文 262,144,Apache-2.0。在 AMD Strix Halo 上以 Gufo 与 Halogen 实测 decode 32~40 tok/s,MTP 推测解码正常;缺 MTP head 会静默关闭推测解码,吞吐掉 30%+。

本事件热度走势

可比范围当前
6
可比范围峰值
910月26日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。