yippp 开源训练推理一体 LLM Docker 镜像构建工具
先了解这件事
开发者 yippp 在 GitHub 开源 llm-docker-builder,用于构建覆盖训练与推理的 LLM Docker 镜像,目标卡型为 A800、H20、H200、B300。镜像基于 CUDA 13.3 与 Python 3.12,集成 vLLM、ms-swift、DeepSpeed(预编译四个算子)、Megatron-LM 及多种量化方案,并附 JupyterLab、code-server 与 zsh 环境。 构建通过 GitHub Actions 完成,产物推送到 GHCR,同时导出单个 .tar.gz 上传到 HuggingFace Dataset;上传需在仓库 Secrets 中配置 HF_TOKEN,否则跳过。构建时运行 verify-imports.py 全量校验导入,并生成形如 cu133-py312-vllm0.32.0-swift4.6.0-rl 的版本 tag。任务超时设为 180 分钟,构建前会清理 runner 磁盘以释放约 105GB 空间。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 灵魂体仓库精选yippp 开源 llm-docker-builder:训练与推理一体 Docker 镜像,适配 A800/H20/H200/B300
yippp 发布 llm-docker-builder,构建覆盖训练与推理的 Docker 镜像,目标卡型 A800 / H20 / H200 / B300,经 GitHub Actions 推送到 GHCR 并导出 .tar.gz 上传 HuggingFace Dataset。镜像基于 CUDA 13.3 与 Python 3.12,集成 vLLM、ms-swift、DeepSpeed(预编译四个算子)、Megatron-LM 及多种量化方案,附 JupyterLab、code-server 与 zsh 环境;构建时运行 verify-imports.py 全量校验导入并生成形如 cu133-py312-vllm0.32.0-swift4.6.0-rl 的版本 tag。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。