Jattt6789 发布 Qwen3.5-9B 去对齐版 GGUF 量化
先了解这件事
Jattt6789 在 Hugging Face 发布了 Qwen/Qwen3.5-9B 的去对齐（uncensored）GGUF 量化版，基于 llmfan46 的 uncensored 版本，使用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法对模型第 15-31 层做消融。 作者提供的实测数据显示：拒绝率从原版的 86/100 降到 4/100，KL 散度 0.0241，MMLU acc 从 0.7861 降到 0.7841、PIQA 基本持平。该版本提供 BF16 到 Q3 共 10 档量化，兼容 llama.cpp、LM Studio、Ollama 等 GGUF 工具，使用多模态需另配 vision projector。作者另提到已触及 Hugging Face 免费存储上限，并在寻求 Patreon/Ko-fi 赞助。
AI 根据报道生成 · 55 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hugging Face · 新模型：uncensored精选Qwen3.5-9B-Ultra-Uncensored-Heretic 放出 GGUF 量化与去对齐数据
Jattt6789 发布了 Qwen/Qwen3.5-9B 的去对齐 GGUF 量化版，基于 llmfan46 的 uncensored 版本，用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法对第 15-31 层做消融。实测拒绝率从原版的 86/100 降到 4/100，KL 散度 0.0241，MMLU acc 0.7861→0.7841、PIQA 基本持平。提供 BF16 到 Q3 共 10 档量化，兼容 llama.cpp、LM Studio、Ollama，需 vision projector 才能用多模态；作者另提到已触及 Hugging Face 免费存储上限并寻求 Patreon/Ko-fi 赞助。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。