跳到正文
GitHub · 去对齐工具与仓库·· 6 天前AI 评分59

Hangar 开源本地 LLM 引擎管理器,支持 llama.cpp、Strata 与 MLX 多引擎调度

jobski/Hangar

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/jobski/Hangar

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

jobski 在 GitHub 发布 Hangar,一个在单 GPU 的 Windows PC 或 Mac 上启动、停止、切换、更新和监控本地 LLM 引擎的管理器,可通过网页、MCP 服务器、REST API 和 hangar 命令行操作。内置 llama.cpp(llama-server)和 Strata 引擎,支持 MLX,引擎以插件形式添加;启动前按估算并在运行后按实测峰值检查空闲 VRAM 和 RAM,支持 exclusive、coexist、refuse 三种资源策略。

来源:GitHub · 去对齐工具与仓库 · github.com