跳到正文
Hugging Face · 新模型:abliterated·· 2 天前精选AI 评分63

AgentionAI 发布 Qwen3.8-Flash-Next Gyro abliterated GGUF 量化包

1sjsh/Qwen3.8-Flash-Next-Gyro-abliterated-Huihui-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/1sjsh/Qwen3.8-Flash-Next-Gyro-abliterated-Huihui-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

AgentionAI 在 Hugging Face 发布 huihui-ai 去对齐版 Qwen3.8-Flash-Next 的 Gyro GGUF 量化,含 Gyro-S/M/L 三档,分别面向 32 GB、48 GB 和 64 GB 统一内存硬件。abliteration 由 huihui-ai 完成,移除模型权重中的拒绝方向,AgentionAI 仅做量化。实测显示去对齐带来的质量损失很小,abliterated Gyro-S/M 与对应原版 KL 差距在 0.005 以内。

推荐理由

原文给出各档量化相对原始模型的 KLD 和 top-1 一致率数据,可以据此评估 abliteration 加量化后的质量损失。

来源:Hugging Face · 新模型:abliterated · huggingface.co