跳到正文
我的
Hugging Face · 新模型:abliterated·· 5 小时前精选AI 评分56

Solotovfahl 发布 Arete-27B-Abliterated-Solotov GGUF 量化版

Solotovfahl/Arete-27B-Abliterated-Solotov

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Solotovfahl/Arete-27B-Abliterated-Solotov

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Solotovfahl 发布了 Arete-27B-Abliterated-Solotov,这是对 NousResearch/Arete-27B(Qwen3.8-27B 的后训练版本)做静态消融去拒绝方向后转成 GGUF 并量化到 Q6_K 的版本,约 22.1 GB。消融对第 18–51 层解码器的输出投影做左投影以移除 5120 维隐空间中的单位拒绝方向,前 18 层与后 12 层未改动,配方沿用 huihui-ai 的 Qwen3.8-27B abliterated 做法。作者在 RTX 5090 上实测约 57 tok/s、64k 上下文,并用 Ollama 验证了对话与工具调用。

推荐理由

原文给出了逐层消融的具体做法与量化规格,读者可据此判断这个去对齐版本改动了哪些层、跑起来需要多少显存。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。