跳到正文
我的
Hugging Face · 新模型:abliterated·· 19 小时前精选AI 评分62

LFM3-Audio-2B 去对齐 GGUF 版发布,拒绝率从 98/100 降至 19/100

maternion/LFM3-Audio-2B-Heretic2-Abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/maternion/LFM3-Audio-2B-Heretic2-Abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

maternion 发布了 LFM3-Audio-2B-Heretic2-Abliterated-GGUF,用 heretic 2.0.0 的任意秩消融(ARA)只修改文本主干,音频编码器、projector、depthformer 与 LiquidCodec 与基座逐字节一致,需搭配 LFM3-Audio-2B-mmproj-BF16.gguf 才能处理音频。在 LLM-LAT/harmful-dataset 的 100 条提示上,拒绝率从基座的 98/100 降到 19/100,KL 散度 0.0761,退化重复为 1/100。文件覆盖 IQ2_M 到 BF16 共 10 个量化,需 llama.cpp b11960(v0.8.0)或更新版本运行。

推荐理由

原文给出了 ARA 消融参数与拒绝率从 98/100 降到 19/100 的对照,读者可据此判断这个去对齐音频模型的实际取舍。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。