跳到正文
热点事件持续更新

gpillon 发布 Qwen3.8-27B 16GB 去对齐量化模型

1 篇报道1 个报道来源22 小时前更新

先了解这件事

AI 综述

gpillon 在 Hugging Face 发布 Qwen3.8-27B-trellis-3bpw-abliterated-ignis,将 huihui-ai 的去对齐权重中 70 个矩阵按 16 GB 版本位宽重量化,供 ignis 在 RTX 5060 Ti 16 GB、5070 Ti、5080 上运行。该模型不拒绝请求、可遵循有害指令,作者建议把护栏放在应用或工具层。 文件为 .ninfer v2 容器,需 ignis v0.9.4 起加载;在 16 GB 显卡上 id qwen3.8-27b-abliterated 解析为该 16 GB 版本,32 GB 显卡则解析为 32 GB 版本。作者给出的 KLD 为 0.0409(基线 0.0403)、DFlash2 每轮 token 3.186(基线 3.191),拒绝行为与 16 GB 版本一致。模型采用 Apache License 2.0。

AI 根据报道生成 · 20 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. Hugging Face · 新模型:abliterated精选
    gpillon 发布 Qwen3.8-27B 16 GB 显卡可用的 abliterated 去对齐版本

    gpillon 发布 Qwen3.8-27B-trellis-3bpw-abliterated-ignis,将 huihui-ai 的 abliterated 去对齐权重中 70 个矩阵按 16 GB 版本的位宽重量化,供 ignis 在 RTX 5060 Ti 16 GB、5070 Ti、5080 上运行。该模型不拒绝请求,可遵循有害指令,作者建议把护栏放在应用或工具层。文中给出 KLD 0.0409(基线 0.0403)、DFlash2 每轮 token 3.186(基线 3.191)以及拒绝行为与 16 GB 版本一致的门限数据,文件为 .ninfer v2 容器,需 ignis v0.9.4 起加载,采用 Apache License 2.0。

本事件热度走势

可比范围当前
5
可比范围峰值
910月31日 08:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。