跳到正文
热点事件持续更新

Qwen3.8-27B 消融去对齐版 GGUF 量化发布,拒绝率大幅下降

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

OrcaRouter 发布 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(2-bit 到 16-bit),基于对原始 Qwen3.8-27B 做 abliteration 去除拒绝行为。该版本可在 llama.cpp(CPU/CUDA/Metal/ROCm)和 Ollama 运行,附独立 mmproj 文件以恢复视觉能力。需从源码构建较新的 llama.cpp,其中需包含 2026 年 5 月合并的 qwen35 hybrid-GDN 架构与 MTP/nextn 推测头。 据发布者实测,有害提示拒绝率从基准的 64–99% 降到 0–6%,良性误拒从 5.6% 降到 0.4%,MMLU、GSM8K、CMMLU 等能力与基准 FP8 差异在 ±1.3 分内。Q4_K_M(16.8 GB)为推荐默认档位,可放入 24 GB 显存。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Hugging Face · 新模型:uncensored精选
    Qwen3.8-27B 无对齐版 GGUF 量化发布,附拒绝率实测数据

    OrcaRouter 发布 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(2-bit 到 16-bit),基于对原始 Qwen3.8-27B 做 abliteration 去除拒绝行为的消融构建,可在 llama.cpp(CPU/CUDA/Metal/ROCm)和 Ollama 运行,附独立 mmproj 文件恢复视觉能力。实测显示有害提示拒绝率从基准的 64–99% 降到 0–6%,良性误拒从 5.6% 降到 0.4%,MMLU、GSM8K、CMMLU 等能力与基准 FP8 差异在 ±1.3 分内;Q4_K_M(16.8 GB)为推荐默认档位,可放入 24 GB 显存。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。