QLoRA 微调 Qwen3-4B 替代工单分诊中的 Claude 调用实测

作者微调 Qwen3-4B-Instruct-2507（QLoRA）处理德/英太阳能与热泵支持工单并输出校验 JSON，在 25 张真实工单上 CORE 准确率 0.76 对 Claude Sonnet 4.6 生产调用的 0.72，schema 有效率 100%，每千张工单成本 $0.29 对 $5.11，T4 上延迟慢约 1.4 倍。训练用约 3,500 张 Claude Haiku 4.5 生成的合成工单（约 $1.40），Unsloth + TRL 在免费 Colab T4 上跑 2 个 epoch，合并 fp16 后用 vLLM 部署；盈亏平衡点约每月 48,000-50,000 张工单，未调优的 Qwen 准确率仅 0.28 schema 失败率 28%。