跳到正文
我的
Hugging Face · 新模型:abliterated·· 16 小时前精选AI 评分56

LFM3-1.7B 放出 abliterated GGUF 无对齐版本

Dhdjxkxdnsbzj/lfm3-1.7b-abliterated-gguf

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Dhdjxkxdnsbzj/lfm3-1.7b-abliterated-gguf

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

LFM3-1.7B 的 abliterated f16 GGUF 版本发布,作者在第 13 层用 64 条有害与 64 条无害提示词算出拒绝方向,并从全部 49 个残差流写入点中正交化移除。在 40 条留出有害提示词上,拒绝率从 100%(40/40)降到 22.5%(9/40),困惑度从 10.60 升至 11.44。作者说明 f16 是浮点格式而非量化格式,并给出 huggingface-cli 下载与 ollama create 的用法;聊天模板默认 enable_thinking=false,工具调用需用 llama-server --jinja 或 Ollama 的 /v1 端点。

推荐理由

原文给出了消融层、提示词对照和拒绝率前后数据,读者可据此判断这个去对齐版本去掉了多少拒绝行为。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。