xunlinkx 发布 Spark-X2.6-4B 消融版的 MLX 4-bit 与 5-bit 量化
先了解这件事
xunlinkx 在 Hugging Face 发布了 electroglyph/Spark-X2.6-4B-uncensored 的两个 MLX/oMLX 混合精度量化版：oQ4e 4-bit 版和 oQ5e 5-bit 版。该模型是 XHToken/Spark-X2.6-4B 经 Heretic ARA 消融得到的社区去审查衍生版，非官方发布，采用 Apache-2.0 许可。两个版本均基于 FP16 输入，使用 128 条校准样本、序列长度 512、group size 64，面向统一内存较紧张的 Apple Silicon（M1 至 M6，含 8 GB Mac）。 作者本地实测：4-bit 版加载并生成 16 个 token 峰值内存 2.859 GB，5-bit 版峰值内存 3.185 GB。源模型模型卡称 100 条提示中 6 次拒答、对原模型 KL 散度 0.0027，但这是源模型作者的自报数据，该量化版本未在相同拒答测试集上经独立评估。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hugging Face · 新模型：uncensoredxunlinkx 发布 Spark-X2.6-4B-Abliterated-Uncensored 的 MLX oQ8e 量化版
xunlinkx 在 Hugging Face 发布 electroglyph/Spark-X2.6-4B-uncensored 的 MLX/oMLX oQ8e 8-bit 量化版（FP16 输入，group size 64），该上游是基于 XHToken/Spark-X2.6-4B 经 Heretic 2.0.0.dev0 ARA 去除对齐的社区版本，源模型自报 100 条提示仅 6 次拒答、KL 散度 0.0027。本地冒烟测试生成 24 个 token，MLX 峰值内存 4.530 GB，适用于 Apple Silicon M1-M6，采用 Apache-2.0 许可。
- Hugging Face · 新模型：abliteratedxunlinkx 发布 Spark-X2.6-4B-Abliterated 的 MLX oQ5e 量化版
xunlinkx 在 Hugging Face 发布 electroglyph/Spark-X2.6-4B-uncensored 的 MLX/oMLX oQ5e 5-bit 混合精度量化版，该上游是 XHToken/Spark-X2.6-4B 经 Heretic ARA 消融的社区去审查衍生模型，源模型报告 100 条提示中仅 6 次拒答、KL 散度 0.0027。量化采用 128 条校准样本、序列长度 512、group size 64，36 个注意力门控为 8-bit，Q/K/V 与 MLP down 投影为 6-bit，Apache-2.0 许可，面向 Apple Silicon（M1 至 M6），本地实测峰值内存 3.185 GB。
- Hugging Face · 新模型：abliteratedxunlinkx 发布 Spark-X2.6-4B-Abliterated 的 MLX oQ4e 量化版本
xunlinkx 在 Hugging Face 发布 electroglyph/Spark-X2.6-4B-uncensored 的 MLX/oMLX oQ4e 4-bit 混合精度量化版，源模型由 Heretic 2.0.0.dev0 ARA 消融得到，作者报告 100 条提示中 6 次拒答、KL 散度 0.0027。量化基于 FP16 输入，面向 8 GB 起的 Apple Silicon（M1 至 M6），采用 128 校准样本、序列长度 512、group size 64，Apache-2.0 许可。本地实测加载并生成 16 个 token，峰值内存 2.859 GB。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。