跳到正文
Hugging Face · 新模型:abliterated·· 2 小时前精选AI 评分60

R0U5 发布 Qwen3.5-4B-abliterated 去对齐版本

R0U5/Qwen3.5-4B-abliterated

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/R0U5/Qwen3.5-4B-abliterated

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

R0U5 基于 Qwen/Qwen3.5-4B 发布 abliterated 去对齐版本,用 lethe 工具包做逐层拒绝方向消融,经 100 次 Optuna TPE 搜索联合最小化拒绝率与 KL 散度。59 条留出有害提示上拒绝率从基座的 91.5%(openers)/93.2%(分层)降到 0.0%/1.7%,KL 散度 0.0727。提供 Q4_K_M 约 2.7GB、Q5_K_M 约 3.1GB、Q8_0 约 4.5GB 的 GGUF 量化文件,需关闭 reasoning/thinking 否则 llama.cpp 下返回空输出;局限包括约 95% 生成超 96 token 预算、未跑完整基准、评估集较小。

推荐理由

原文给出分层拒绝率检测、KL 散度和留出集实测数据,可据此判断这个去对齐版本实际去掉了多少、代价多大。

来源:Hugging Face · 新模型:abliterated · huggingface.co