Abliterant 发布 Qwen3.5-9B-RANA-abliterated 的 AWQ 4-bit 量化版

Abliterant 发布了 Qwen3.5-9B-RANA-abliterated 的 AWQ 4-bit 量化权重，体积 11.7 GB，BF16 版为 19.3 GB，用 vLLM 以 compressed-tensors 格式部署。该版本与 BF16 参考的 KL 为 0.0231，94.6% 位置选出相同的最可能 token；在 BF16 版上对比 bowmanslayer/Qwen3.5-9B-Uncensored，有害请求的有效回答率为 67.4% 对 52.5%，能力损失 0.79 对 3.31 pp。作者说明这是量化而非额外训练，拒绝行为未在该格式上重新测量，定位为拒绝行为研究用途。