跳到正文
Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分84

Ternary Bonsai 2 27B Abliterated v2 GGUF 发布,修复思考预算耗尽问题

timfromhcs/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/timfromhcs/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

timfromhcs 发布 Ternary Bonsai 2 27B Abliterated v2 的 PQ2_0 GGUF 权重,通过修改输出层一行让模型在答案写完后关闭推理,避免 v1 把答案写进推理导致预算耗尽出空白回答。在 StrongReject 150 条有害请求、16,384 token 预算测试中得分 0.941(151 中空白 7 次),优于 Hikari07jp 0.738、OS-Software Heretic 0.723 等其他消融版本;SimpleSafetyTests 拒绝率 0%,MMLU 相比原版降 0.56 点,是同类中代价最小的。

推荐理由

作者给出多组对照评测数据,包括与其他消融版本的横向对比和 MMLU 代价,读者可以据此判断这版去对齐的实际效果。

来源:Hugging Face · 新模型:abliterated · huggingface.co