ThousandML 平台推出 4-bit QLoRA 训练,采用自研 CQ 量化
开发者推出 ThousandML 平台,用自研免校准量化 CQ 4-bit 做 QLoRA 微调以降低 GPU 成本。在 Qwen3.8-27B 的 Alpaca 微调对比中(单张 NVIDIA A40 48 GB,LoRA r=32、500 步),CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484,且峰值显存略低,但每步耗时 27.60 s 远慢于 NF4 的 3.20 s,速度仍在优化中。已发布 thousandml/Qwen3.8-27B-CQ-4bit 等多个 CQ 4-bit 底座模型及复现脚本。