Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分84
Ternary Bonsai 2 27B Abliterated v2 GGUF 发布,修复思考预算耗尽问题
timfromhcs/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/timfromhcs/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
timfromhcs 发布 Ternary Bonsai 2 27B Abliterated v2 的 PQ2_0 GGUF 权重,通过修改输出层一行让模型在答案写完后关闭推理,避免 v1 把答案写进推理导致预算耗尽出空白回答。在 StrongReject 150 条有害请求、16,384 token 预算测试中得分 0.941(151 中空白 7 次),优于 Hikari07jp 0.738、OS-Software Heretic 0.723 等其他消融版本;SimpleSafetyTests 拒绝率 0%,MMLU 相比原版降 0.56 点,是同类中代价最小的。
推荐理由
作者给出多组对照评测数据,包括与其他消融版本的横向对比和 MMLU 代价,读者可以据此判断这版去对齐的实际效果。
来源:Hugging Face · 新模型:abliterated · huggingface.co