跳到正文
Hugging Face · 新模型:abliterated·· 22 天前AI 评分34

Anotos 发布 LFM2-8B-A1B-Abliterated 的 MLX 4-bit 量化版

Anotos/LFM2-8B-A1B-Abliterated-MLX-4bit

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Anotos/LFM2-8B-A1B-Abliterated-MLX-4bit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Anotos 将 huihui-ai 的 abliterated(去审查)版 Liquid AI LFM2 8B-A1B 转换为 MLX 4-bit 量化模型,面向 Apple Silicon。该模型为 MoE 架构,总参数 8.3B、每 token 激活约 1.5B,文件 4.69 GB,专家路由门控保留 8 bit,需 mlx-swift-lm 3.31.4 及以上版本。模型已移除安全护栏,不内置入 Erato 应用,需手动添加,采用 LFM Open License v1.0 许可。

来源:Hugging Face · 新模型:abliterated · huggingface.co