Hugging Face · 新模型:abliterated·· 19 小时前精选AI 评分62
LFM3-Audio-2B 去对齐 GGUF 版发布,拒绝率从 98/100 降至 19/100
maternion/LFM3-Audio-2B-Heretic2-Abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/maternion/LFM3-Audio-2B-Heretic2-Abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
maternion 发布了 LFM3-Audio-2B-Heretic2-Abliterated-GGUF,用 heretic 2.0.0 的任意秩消融(ARA)只修改文本主干,音频编码器、projector、depthformer 与 LiquidCodec 与基座逐字节一致,需搭配 LFM3-Audio-2B-mmproj-BF16.gguf 才能处理音频。在 LLM-LAT/harmful-dataset 的 100 条提示上,拒绝率从基座的 98/100 降到 19/100,KL 散度 0.0761,退化重复为 1/100。文件覆盖 IQ2_M 到 BF16 共 10 个量化,需 llama.cpp b11960(v0.8.0)或更新版本运行。
推荐理由
原文给出了 ARA 消融参数与拒绝率从 98/100 降到 19/100 的对照,读者可据此判断这个去对齐音频模型的实际取舍。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。