Hugging Face · 新模型:abliterated·· 3 小时前AI 评分40
xunlinkx 发布 Spark-X2.6-4B-Abliterated 的 MLX oQ5e 量化版
xunlinkx/Spark-X2.6-4B-Abliterated-Uncensored-MLX-oQ5e-fp16
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/xunlinkx/Spark-X2.6-4B-Abliterated-Uncensored-MLX-oQ5e-fp16
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
xunlinkx 在 Hugging Face 发布 electroglyph/Spark-X2.6-4B-uncensored 的 MLX/oMLX oQ5e 5-bit 混合精度量化版,该上游是 XHToken/Spark-X2.6-4B 经 Heretic ARA 消融的社区去审查衍生模型,源模型报告 100 条提示中仅 6 次拒答、KL 散度 0.0027。量化采用 128 条校准样本、序列长度 512、group size 64,36 个注意力门控为 8-bit,Q/K/V 与 MLP down 投影为 6-bit,Apache-2.0 许可,面向 Apple Silicon(M1 至 M6),本地实测峰值内存 3.185 GB。
来源:Hugging Face · 新模型:abliterated · huggingface.co