aksheyd 发布 Rust/Python 量化库 quantize 并附 candle 基准对比

aksheyd 在 GitHub 发布 quantize，一个可用作 Rust crate 或 Python 包的快速量化库，支持对称与非对称量化、逐块自适应位宽和 scale 拟合，码字 2 到 16 位。附带从第一性原理推导的 8 个示例章节，质量与 candle 的 Q4_0 等格式持平，在 aarch64 上反量化更快，WikiText-2 上 SmolLM-135M 4-bit 困惑度为 26.44，fp32 为 18.93。