跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分67

SwarmLLM 开源发布:多台电脑组网共同运行大模型

enapt/SwarmLLM

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/enapt/SwarmLLM

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

enapt 发布开源应用 SwarmLLM,可在本地运行 Llama、Qwen、Mistral、Gemma 等开放模型,并让多台电脑通过互联网接力分担模型各层,共同运行单机装不下的大模型。应用免费、无账号无广告,支持 Windows、Linux 和 Apple 芯片 Mac,提供 OpenAI/Anthropic 兼容端点、MCP server 和 Private Mode;目前 swarm 只能跑中等规模模型,目标是约十台普通电脑协同运行 70B 以上的巨型模型,项目由人类开发者与 Claude Code 协作构建,采用 MIT 和 Apache 2.0 双许可。

推荐理由

原文详细说明了多机分层接力跑大模型的机制、隐私边界和带宽开销,读者可以据此评估是否加入这个社区算力网络。

来源:GitHub · 去对齐工具与仓库 · github.com