发布基于 vLLM 的 Qwen2.5-1.5B 批量生成服务及实测报告
先了解这件事
IlyaEmelin 在 GitHub 发布 batch-generation-service 项目：用本地 vLLM 部署的 Qwen2.5-1.5B-Instruct 对 300 个商品批量生成五键结构卡片，并附实测报告。三次重试将格式有效率从约 0.40 提到 0.903，代价是 retry_rate 达 0.497。 报告中还称：repetition_penalty 1.05 在 dev 集上更好，但全量跑降至 0.820，最终弃用；API 对比中 OpenRouter 上的 openai/gpt-oss-20b（reasoning_effort=low，max_tokens=500）在 30 个商品上全部有效，按 20/60 ₽ 每百万 token 计约 34.677 ₽/1000 张卡片。速度与成本数据来自热节流状态下的显卡测得，T4 上的数字需重新实测，不宜直接套用。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 3D 生成新仓库IlyaEmelin/batch-generation-service：Qwen2.5-1.5B-Instruct 批量生成服务项目报告
基于本地 vLLM 部署的 Qwen2.5-1.5B-Instruct 构建批量商品卡片生成服务，对 300 个商品生成五键结构卡片，三次重试将格式有效率从约 0.40 提升到 0.903，retry_rate 为 0.497。参数实验显示 repetition_penalty 1.05 在 dev 上更好但全量跑降至 0.820，最终弃用。API 对比中 OpenRouter 上的 openai/gpt-oss-20b（reasoning_effort=low，max_tokens=500）在 30 个商品上全部有效，按 20 ₽/60 ₽ 每百万 token 计费约 34.677 ₽/1000 张卡片。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1010月26日 03:00
- 近 24 小时变化
- -49%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。