跳到正文
热点事件持续更新

mrfakename 发布 Ling-3.1-flash-1019 abliterated 去对齐模型及 GGUF 量化

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

mrfakename 在 Hugging Face 发布 inclusionAI/Ling-3.1-flash-1019 的 abliterated 版本,用方向性消融移除该模型的拒绝行为,并附 GGUF 量化(Q8_0 至 Q3_K_M 多档分片)和 rank-4 LoRA 形式的同一编辑。发布者称在 Q8_0 GGUF 上,chat 模式拒绝从 98/100 降至 3/100,think 模式从 98/100 降至 7/100,中国敏感提示的拒绝加官方口径改写从 14/40 降至 0/40,无害提示首 token KL 为 0.1504。 由于测得拒绝方向分散在 chat、think 和中国敏感话题三条路径的不同层段,该版本移除的是 rank-4 拒绝子空间(在 16–71 层投影移除)而非单一方向。模型总参数 560B、激活 25B,GGUF 版需支持 bailingmoe3 的 llama.cpp 运行;K 量化从 Q8_0 而非 BF16 重量化。原版文件、格式和 FP8 布局与原模型相同,可在原模型可加载的任何环境加载。 发布者提示该模型会顺从有害请求,使用责任由用户自负。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Hugging Face · 新模型:abliterated
    mrfakename 发布 Ling-3.1-flash-1019 abliterated GGUF 量化版

    mrfakename 将 abliterated 版 Ling-3.1-flash-1019(基于 inclusionAI 原模型,在 16–71 层投影移除 rank-4 拒绝子空间)制作成 GGUF 量化,提供 Q8_0 至 Q3_K_M 多档分片量化。模型总参数 560B、激活 25B,需支持 bailingmoe3 的 llama.cpp 运行;另附 rank-4 LoRA 形式的同一编辑,可直接作用于原版量化模型。

  2. Hugging Face · 新模型:abliterated精选
    mrfakename 发布 Ling-3.1-flash-1019 消融去对齐版本

    mrfakename 在 Hugging Face 放出 inclusionAI/Ling-3.1-flash-1019 的 abliterated 版本,用方向性消融移除拒绝行为。原文测得该模型的拒绝方向分散在 chat、think 和中国敏感话题三条路径的不同层段,故移除 rank-4 拒绝子空间而非单一方向;Q8_0 GGUF 上 chat 模式拒绝从 98/100 降至 3/100,think 模式从 98/100 降至 7/100,中国敏感提示的拒绝加官方口径改写从 14/40 降至 0/40,无害提示首 token KL 为 0.1504。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。