nagarajpoojari404 发布 mint 分布式训练流水线
热点事件持续更新
nagarajpoojari404 发布 mint 分布式训练流水线
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
nagarajpoojari404 发布了 mint，一个面向任意 LLM 的分布式计算最优训练流水线。据其介绍，mint 可按可用 FLOPS 自动推算数据集规模、模型规模等全部超参数，支持预训练、SFT 与 DPO，目标是让用户以尽可能低的成本自建或微调模型。 mint 内置分布式 MuonAdamW（含 norMuon 与 polar express coeff）和 ZeRO 2 分片策略，并提供可插拔 LoRA/QLoRA 适配器、FlashAttention 与自定义 CUDA FlashAttention kernel。安装方式为 `uv pip install -e .`，支持 Gemma/TikToken 及 HuggingFace 模型（如 Qwen/Qwen2-0.5B）。
AI 根据报道生成 · 45 分钟前更新
最新进展11月6日 15:26
mint：面向任意 LLM 的分布式计算最优训练流水线报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- GitHub · 去对齐工具与仓库mint：面向任意 LLM 的分布式计算最优训练流水线
mint 是一个面向任意 LLM 的分布式计算最优训练流水线，可按可用 FLOPS 自动推算数据集规模、模型规模等全部超参数，支持预训练、SFT 与 DPO。它内置分布式 MuonAdamW（含 norMuon 与 polar express coeff）和 ZeRO 2 分片策略，并提供可插拔 LoRA/QLoRA 适配器、FlashAttention 与自定义 CUDA FlashAttention kernel。安装方式为 `uv pip install -e .`，支持 Gemma/TikToken 及 HuggingFace 模型（如 Qwen/Qwen2-0.5B）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。