跳到正文
Hugging Face · 新模型:abliterated·· 13 天前AI 评分35

Jakevin 发布 LFM2.5-24B-A2B-abliterated-mixed-GGUF:去除拒绝行为的混合精度量化版本

Jakevin/LFM2.5-24B-A2B-abliterated-mixed-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Jakevin/LFM2.5-24B-A2B-abliterated-mixed-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Jakevin 在 Hugging Face 发布 abliterated 版 LiquidAI/LFM2.5-24B-A2B 的混合精度 GGUF,移除了大部分拒绝行为。模型按 IQ3_M/Q4_K/Q8_0 混合量化,对第 14–39 层的 out_proj 和专家 w2 权重应用双向投影拒绝方向。需 llama.cpp b9810+ 的 lfm2moe 支持,8k 上下文下生成约 83 tok/s、峰值内存约 10.9 GB,采用 LFM Open License v1.0。

来源:Hugging Face · 新模型:abliterated · huggingface.co