Reddit · r/LocalLLaMA· /u/textclf·· 12 小时前AI 评分48
ThousandML 平台推出 4-bit QLoRA 训练，采用自研 CQ 量化
4-bit QLoRA Training with ThousandML
来源与原文
Reddit · r/LocalLLaMA
作者：/u/textclf
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xfkyah/4bit_qlora_training_with_thousandml/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
开发者推出 ThousandML 平台，用自研免校准量化 CQ 4-bit 做 QLoRA 微调以降低 GPU 成本。在 Qwen3.8-27B 的 Alpaca 微调对比中（单张 NVIDIA A40 48 GB，LoRA r=32、500 步），CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484，且峰值显存略低，但每步耗时 27.60 s 远慢于 NF4 的 3.20 s，速度仍在优化中。已发布 thousandml/Qwen3.8-27B-CQ-4bit 等多个 CQ 4-bit 底座模型及复现脚本。
来源：Reddit · r/LocalLLaMA · reddit.com