跳到正文
更多
热点事件持续更新

Hugging Face 用户发布 Qwen3.8-Flash-Next 去拒绝向量 GGUF 仓库

2 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Hugging Face 用户 QWER123951 发布了 Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata-GGUF 仓库,转载 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档量化权重(逐字节复制并校验 SHA256),并附带一个 480 KB 的拒绝方向向量文件,可在 Strata 运行时对每层残差流做投影 h = h - (h·r)r,以移除模型的拒绝行为。该向量来自 Huihui 对 144 个残差写入张量的秩一编辑。 作者附有实测数据:RTX 3090 上 IQ3_S 与 BF16 的 KL 散度仅 0.075、解码 59 tokens/s,IQ2_XS 达 87 tokens/s;10 条拒答测试提示在该向量下全部不再拒答。使用需 NVIDIA 或 AMD 显卡且显存 12 GB 以上;Strata 页面对 IQ3_S 和 IQ3_XXS 要求 64 GB 内存的电脑,两个较小档位要求 48 GB。将 "experimental_speed_projection" 设为 false 时运行原始模型。作者称移除拒绝即移除一种安全行为,向量开启时模型输出由使用者自行负责。

AI 根据报道生成 · 8 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. Hugging Face · 新模型:abliterated
    Qwen3.8-Flash-Next abliterated 版 GGUF 量化包发布,附 Strata 运行时去拒答控制向量

    该仓库转载 ISTA-DASLab 对 Qwen3.8-Flash-Next 的四种 GSQ-RCO 量化(Q2_0、IQ2_XS、IQ3_XXS、IQ3_S,66.4–83.6 GB),并附一个 480 KB 的去拒答控制向量,可在 Strata 运行时对残差流做投影。实测 RTX 3090 上 IQ3_S 与 BF16 的 KL 仅 0.075、解码 59 tokens/s,IQ2_XS 达 87 tokens/s;10 条拒答测试提示在该向量下全部不再拒答。

10月25日
  1. Hugging Face · 新模型:abliterated精选
    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

本事件热度走势

可比范围当前
8
可比范围峰值
1010月31日 20:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。