Hugging Face · 新模型:abliterated·· 3 小时前同新闻AI 评分54
Flint 40B abliterated 模型发布 oQ4e 与 oQ8e 两个 MLX 量化版本
Studio-Research-M1/Flint-40B-A2.5B-abliterated-oQ4e-BF16-MLX
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Studio-Research-M1/Flint-40B-A2.5B-abliterated-oQ4e-BF16-MLX
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Studio-Research-M1 发布 dima6312/Flint-40B-A2.5B-abliterated(RecursiveSI/flint 39.8B 参数 MoE、每 token 约 2.5B 激活)的两个 oQ 量化 MLX 版本:oQ4e 占 23.4 GB,适合 32–48 GB Mac;oQ8e 占 42.3 GB,适合 64 GB 以上 Mac。作者在 M1 Max 上实测:oQ8e 相对 FP32 平均 KLD 0.077,低于模型自身 BF16 计算底噪 0.088;oQ4e 为 0.249。
同一新闻,精选展示《Flint 40B-A2.5B abliterated 模型发布 oQ4e/oQ8e 两个 MLX 量化版本》
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。