homelab-atlas:在二手硬件上跑通 Qwen3.8、GLM-5.3-Flash 与 DeepSeek V4.1 Flash 的实测手册
akapug 发布 homelab-atlas 仓库,用 2017 服务器、2019 工作站、Ryzen 桌面等四台旧机器实测本地大模型部署,如 DeepSeek V4.1 Flash(748B MoE)在 RTX 6000 + Optane 上解码 12.69 tok/s,GLM-5.3-Flash 在 3090 Ti 上达 26.69 tok/s。仓库提供 PATCHES.md 补丁索引、按硬件分类的复现命令、失败记录,以及浏览器端 Recipe Maker 规划工具,用于在下载权重前预判 MoE 模型在 VRAM、DRAM、PMem 上的布局与速度。
推荐理由:用二手服务器、老工作站和Intel冷门卡跑通大MoE模型,每个数字都附条件、命令和补丁来源,方法可直接照搬。