Hugging Face 用户发布 Qwen3.8-Flash-Next 去拒绝向量 GGUF 仓库
先了解这件事
Hugging Face 用户 QWER123951 发布了 Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata-GGUF 仓库,转载 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档量化权重(逐字节复制并校验 SHA256),并附带一个 480 KB 的拒绝方向向量文件,可在 Strata 运行时对每层残差流做投影 h = h - (h·r)r,以移除模型的拒绝行为。该向量来自 Huihui 对 144 个残差写入张量的秩一编辑。 作者附有实测数据:RTX 3090 上 IQ3_S 与 BF16 的 KL 散度仅 0.075、解码 59 tokens/s,IQ2_XS 达 87 tokens/s;10 条拒答测试提示在该向量下全部不再拒答。使用需 NVIDIA 或 AMD 显卡且显存 12 GB 以上;Strata 页面对 IQ3_S 和 IQ3_XXS 要求 64 GB 内存的电脑,两个较小档位要求 48 GB。将 "experimental_speed_projection" 设为 false 时运行原始模型。作者称移除拒绝即移除一种安全行为,向量开启时模型输出由使用者自行负责。
AI 根据报道生成 · 8 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:abliteratedQwen3.8-Flash-Next abliterated 版 GGUF 量化包发布,附 Strata 运行时去拒答控制向量
该仓库转载 ISTA-DASLab 对 Qwen3.8-Flash-Next 的四种 GSQ-RCO 量化(Q2_0、IQ2_XS、IQ3_XXS、IQ3_S,66.4–83.6 GB),并附一个 480 KB 的去拒答控制向量,可在 Strata 运行时对残差流做投影。实测 RTX 3090 上 IQ3_S 与 BF16 的 KL 仅 0.075、解码 59 tokens/s,IQ2_XS 达 87 tokens/s;10 条拒答测试提示在该向量下全部不再拒答。
- Hugging Face · 新模型:abliterated精选Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据
作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 1010月31日 20:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。