跳到正文
热点事件观察中

Hugging Face 用户发布推理时去对齐的 Qwen3.8-Flash-Next-FP4-Local-Abliterated

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Hugging Face 用户 lesj0610 发布 Qwen3.8-Flash-Next-FP4-Local-Abliterated,基于 nvidia/Qwen3.8-Flash-Next-FP4-Local,在不改动权重文件(与基座逐字节一致)的情况下,通过 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影,实现去对齐。 模型卡报告:625 条有害提示的拒绝短语命中率从基座的 97.92% 降到 0.16%,MMLU 比基座低 1.30 分,GSM8K 无显著变化。使用需 vLLM 0.32.1rc0 及以上版本(在 0.32.1 上 PyPI 前需 nightly 构建);拒绝行为仅在英文下测试,视频能力未评测。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. Hugging Face · 新模型:abliterated精选
    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

本事件热度走势

可比范围当前
3
可比范围峰值
1010月25日 18:00
近 24 小时变化
-50%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。