Hugging Face · 新模型:abliterated·· 13 天前AI 评分47
Jakevin 发布 LFM2.5-24B-A2B-abliterated-4bit-mlx:去除拒绝行为的 MLX 4-bit 量化模型
Jakevin/LFM2.5-24B-A2B-abliterated-4bit-mlx
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Jakevin/LFM2.5-24B-A2B-abliterated-4bit-mlx
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Jakevin 在 Hugging Face 发布基于 LiquidAI/LFM2.5-24B-A2B 的 abliterated 去审查模型,对第 14–39 层移除拒绝方向,并做 MLX 4-bit 仿射量化,磁盘占用约 13 GB,Apple Silicon 本地加载峰值内存约 13.6 GB,采用 LFM Open License v1.0。10 条有害提示配对测试中,官方 LiquidAI MLX 4-bit 版 10/10 拒答,该模型 0/10 拒答、7/10 服从。仓库还提供同一去审查权重的 ternary 量化版本,但存在质量下降,一般使用建议选此 4-bit 版。
来源:Hugging Face · 新模型:abliterated · huggingface.co