ThousandML 发布开源微调平台 Training Factory，主打 4-bit QLoRA
先了解这件事
ThousandML（/u/textclf）在 Reddit 发布开源微调平台 Training Factory，用 QLoRA 对 4-bit 量化模型做微调而非全精度微调，以降低 GPU 成本，并支持用 vLLM 加载 LoRA adapter 部署。目前已提供 Qwen3.8-27B-CQ-4bit、Llama-3.1-8B-Instruct-CQ-4bit、Llama-3.3-70B-Instruct-CQ-4bit 等底座模型，其称后续会添加更多。 其采用的 CQ（Coded Quantization）为免校准量化。作者在 Qwen3.8-27B 上用 Wikitext-2 对比称其 KLD 优于 unsloth-bnb-4bit（磁盘占用 18GB 对 22.4GB，Top 1% 一致率 92.419% 对 91.954%）；在 Qwen3.8-27B 的 Alpaca 微调对比（单张 A40 48GB、LoRA r=32、500 步）中称 CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484 且峰值显存略低，但每步耗时 27.60 秒远慢于 NF4 的 3.20 秒，速度仍在优化中。作者另称曾用单张 A40 跑通训练，峰值 PyTorch 分配显存 25.5 GiB、稳态中位每步约 14.99 秒。 作者说明这些对比是损失对比，尚未经过下游任务质量验证，tokenization 与 loss-mask 等效性也未获独立验证。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMAThousandML 平台推出 4-bit QLoRA 训练，采用自研 CQ 量化
开发者推出 ThousandML 平台，用自研免校准量化 CQ 4-bit 做 QLoRA 微调以降低 GPU 成本。在 Qwen3.8-27B 的 Alpaca 微调对比中（单张 NVIDIA A40 48 GB，LoRA r=32、500 步），CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484，且峰值显存略低，但每步耗时 27.60 s 远慢于 NF4 的 3.20 s，速度仍在优化中。已发布 thousandml/Qwen3.8-27B-CQ-4bit 等多个 CQ 4-bit 底座模型及复现脚本。
- Reddit · r/LocalLLaMAThousandML 发布 Training Factory 平台，支持 4-bit QLoRA 微调开源模型
作者 /u/textclf 发布了用于微调开源模型的 Training Factory 平台，主打对 4-bit 量化模型做 QLoRA 而非全精度微调以降低 GPU 成本。所用 CQ（Coded Quantization）为免校准量化，作者在 Qwen 3.8 27B 上用 Wikitext-2 对比称其 KLD 优于 unsloth-bnb-4bit（磁盘占用 18GB 对 22.4GB，Top 1% 一致率 92.419% 对 91.954%）；在 Alpaca 数据集上用单张 A40（48GB）跑通训练，峰值 PyTorch 分配显存 25.5 GiB、稳态中位每步约 14.99 秒。
- Reddit · r/LocalLLaMAThousandML 开源 Training Factory：基于 QLoRA 微调 4-bit 量化模型
ThousandML 发布开源微调平台 Training Factory，用 QLoRA 对 4-bit 量化模型做微调以降低 GPU 成本。其采用的 CQ（Coded Quantization）是无校准量化，效果与主流量化相当，已提供 Qwen3.8-27B-CQ-4bit、Llama-3.1-8B-Instruct-CQ-4bit、Llama-3.3-70B-Instruct-CQ-4bit 等底座，并支持用 vLLM 加载 LoRA adapter 部署。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 1010月23日 09:00
- 近 24 小时变化
- -50%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。