GLQ 发布 vLLM/HF 可用的 2–8 bit 后训练量化工具，31B 模型可压进 16.5 GiB

cnygaard 发布 GLQ，一套面向 LLM 权重的格与格编码后训练量化工具，支持 2–8 bits/weight，通过 vLLM 插件和 HF Transformers 集成服务，使用确定性融合 CUDA 内核，验证范围从 24 GB 3090 级 GPU 到 96 GB RTX PRO 6000 Blackwell。v0.7 起默认 trellis（QTIP 衍生 TCQ）码本，2 bpw 下 SmolLM3-3B PPL 11.94 优于格路径的 13.79（bf16 为 9.12）；单流解码达 bf16 水平（176 vs 180 tok/s），权重内存约三分之一。