notfakerv 发布 LFM2.5-24B-A2B-abliterated 的 MLX 4-bit 量化版

notfakerv/LFM2.5-24B-A2B-abliterated-MLX-4bit 是 abliterated 版 LFM2.5-24B-A2B 的 MLX 4-bit affine 量化转换，权重 13.49 GB，直接由 BF16 检查点转换而非 GGUF 重量化，需 MLX LM >= 0.32.0 与 MLX >= 0.32.2。该模型为 always-thinking 推理模型，建议 24 GB 统一内存起步；验证限于冒烟与数值检查，未做 Apple Silicon 运行时测试或速度基准。