跳到正文
Hugging Face · 新模型:abliterated·· 19 天前精选AI 评分70

Muse-Glimmer-30B Heretic Abliterated BF16 v2 发布,拒绝率降至6.5%

kmnstudio101/Muse-Glimmer-30B-Heretic-Abliterated-BF16

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/kmnstudio101/Muse-Glimmer-30B-Heretic-Abliterated-BF16

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

kmnstudio101 发布 Muse-Glimmer-30B-Heretic-Abliterated-BF16 v2,使用 Heretic 工具经 500 次 Optuna 试验完成消融,拒绝率从 v1 的 29% 降至 6.5%,KL 散度为 0.076。消融流程包括跨 52 层计算拒绝方向、LoRA 适配器投影去除拒绝方向并合并回基础权重。BF16 版本约需 55 GB 显存,另有 Q4_K_M 约 16 GB、Q6_K 约 22 GB、Q8_0 约 28 GB 的 GGUF 量化版本,许可证为 Apache 2.0,基础模型为 Meta Muse Glimmer 30B。

推荐理由

原文给出 v1 到 v2 的拒绝率与 KL 散度对比数据和完整消融流程,读者可据此评估这个去对齐版本的效果与质量代价。

来源:Hugging Face · 新模型:abliterated · huggingface.co