开源蒸馏对比：本地教师标签接近付费API
先了解这件事
开发者 fernandomcrsilva 发布了一个 LLM 蒸馏对比项目：同一 Qwen3-1.7B+LoRA 学生模型在约 9 千条 Olist 评价上，分别用 Claude Haiku 与 Qwen3-8B 生成的标签训练，在 329 条测试集上 F1 macro 分别为 0.784 和 0.690。用 Qwen3-8B 标签训练的学生达到教师模型 97% 的 F1（0.690 对 0.709），速度约为 3 倍（6.8 对 2.5 条/秒），全程无需付费 API。 Qwen3-8B 通过 Ollama+Vulkan 在约 67 分钟内标注 1 万条评价；训练在 RX 7600 8 GB 上峰值占用 4.3 GB VRAM。模型与标签已上传 Hugging Face。 标签和适配器继承源数据的 CC BY-NC-SA 4.0 许可，仅限非商业用途并以相同许可再分发。另有一个在 Kaggle 免费 T4 上以 fp32 复现同一训练的 notebook，但尚未在该环境运行过。
AI 根据报道生成 · 11 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 去对齐工具与仓库付费还是开源？用 Claude Haiku 与 Qwen3-8B 蒸馏 LLM 做 Olist 评价方面分析，在 8 GB AMD GPU 上完成
同一 Qwen3-1.7B+LoRA 学生模型在 9 千条 Olist 评价上分别用 Claude Haiku 与 Qwen3-8B 生成的标签训练，在 329 条测试集上 F1 macro 分别为 0.784 和 0.690。Qwen3-8B 标签训练的学生达到教师 97% 的 F1（0.690 对 0.709），速度约 3 倍（6.8 对 2.5 条/秒），全程无需付费 API。Qwen3-8B 用 Ollama+Vulkan 在约 67 分钟内标注 1 万条评价，训练在 RX 7600 8 GB 上峰值占用 4.3 GB VRAM，模型与标签已上传 Hugging Face。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月7日 07:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。