跳到正文
我的
GitHub · 灵魂体仓库·· 2 天前精选AI 评分63

Legion112 开源 ember:按分钟租用 GPU 跑模型、用完即毁的命令行工具

Legion112/ember

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Legion112/ember

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者发布 ember 工具,把租 GPU 跑开源模型变成一条命令:租节点、跑任务、经 SSH 取回输出并销毁节点,所有端口只绑 loopback,节点带 TTL 防止闲置继续计费。作者在 RunPod 上实测八种架构显卡跑 SD 1.5 Q8_0 的单价与耗时,RTX 4090 上一次 384x384 生成整租约 1m7s 只花 $0.0166,并给出 images 架构映射、gpu_probe 显卡探测、store 权重持久卷与按步骤计费等设计。

推荐理由

作者实测了八种租用 GPU 跑 SD 1.5 的每卡价格与耗时,租用比自购便宜约两个数量级的账算得具体,可作成本参考。

来源:GitHub · 灵魂体仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。