Abliterant发布Qwen3.5-9B-RANA消融模型FP8版

Abliterant 发布 Qwen3.5-9B-RANA-abliterated-FP8，即拒绝行为消融模型 Qwen3.5-9B-RANA-abliterated 的 FP8 权重版，采用 Qwen 官方 block-FP8 格式，体积 12.2 GB（BF16 版 19.3 GB），面向 vLLM 和 SGLang。 据 Abliterant 称，该版本与 BF16 参考版在 97.7% 的位置上选出同一个最可能 token，KL 为 0.0045，困惑度高出 0.5%；在 RTX 5090 32 GB 上通过了文本、视觉、工具调用和 MTP 投机解码的功能检查，测试覆盖两块 GPU。该格式未重新测量拒绝行为。 该版本限用于拒绝行为的可解释性、红队测试和鲁棒性评估研究；若无单独的审核层，不用于面向公众或终端用户的部署。

AI 根据报道生成 · 35 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。