跳到正文
Hugging Face · 新模型:abliterated·· 13 天前AI 评分31

Jakevin 发布 LFM2.5-24B-A2B-abliterated-ternary-mlx:实验性三值量化去审查模型

Jakevin/LFM2.5-24B-A2B-abliterated-ternary-mlx

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Jakevin/LFM2.5-24B-A2B-abliterated-ternary-mlx

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Jakevin 基于 LiquidAI/LFM2.5-24B-A2B 发布去审查的 MLX 三值量化模型,用逐层双投影方向移除拒绝行为,体积约 10.3 GB,评估时峰值内存约 13.6 GB。实验显示质量下降明显:10 个有害提示全部拒绝行为被移除(0/10 拒绝),但多数一般问题在 8K token 内无法完成且出现事实幻觉,不建议一般用途使用。模型遵循 LFM Open License v1.0,标准 mlx-lm(0.32.0 测试)可直接加载。

来源:Hugging Face · 新模型:abliterated · huggingface.co