跳到正文
热点事件持续更新

yippp 开源训练推理一体 LLM Docker 镜像构建工具

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开发者 yippp 在 GitHub 开源 llm-docker-builder,用于构建覆盖训练与推理的 LLM Docker 镜像,目标卡型为 A800、H20、H200、B300。镜像基于 CUDA 13.3 与 Python 3.12,集成 vLLM、ms-swift、DeepSpeed(预编译四个算子)、Megatron-LM 及多种量化方案,并附 JupyterLab、code-server 与 zsh 环境。 构建通过 GitHub Actions 完成,产物推送到 GHCR,同时导出单个 .tar.gz 上传到 HuggingFace Dataset;上传需在仓库 Secrets 中配置 HF_TOKEN,否则跳过。构建时运行 verify-imports.py 全量校验导入,并生成形如 cu133-py312-vllm0.32.0-swift4.6.0-rl 的版本 tag。任务超时设为 180 分钟,构建前会清理 runner 磁盘以释放约 105GB 空间。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. GitHub · 灵魂体仓库精选
    yippp 开源 llm-docker-builder:训练与推理一体 Docker 镜像,适配 A800/H20/H200/B300

    yippp 发布 llm-docker-builder,构建覆盖训练与推理的 Docker 镜像,目标卡型 A800 / H20 / H200 / B300,经 GitHub Actions 推送到 GHCR 并导出 .tar.gz 上传 HuggingFace Dataset。镜像基于 CUDA 13.3 与 Python 3.12,集成 vLLM、ms-swift、DeepSpeed(预编译四个算子)、Megatron-LM 及多种量化方案,附 JupyterLab、code-server 与 zsh 环境;构建时运行 verify-imports.py 全量校验导入并生成形如 cu133-py312-vllm0.32.0-swift4.6.0-rl 的版本 tag。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。