GitHub · 去对齐工具与仓库·· 3 天前精选AI 评分65
llm-systems-manager 开源发布:自托管面板监控与调优本地 LLM
llmsyscore/llm-systems-manager
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/llmsyscore/llm-systems-manager
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
llmsyscore 在 GitHub 开源了 llm-systems-manager,一个自托管面板,用于监控、控制、基准测试和调优运行本地 LLM 的机器,采用 AGPLv3 许可证。支持 llama.cpp、vLLM、LM Studio 和 stable-diffusion.cpp,兼容 NVIDIA、AMD(ROCm 与 Vulkan)和 Apple Silicon GPU,支持 Linux 与 macOS,不支持 Windows。
推荐理由
原文完整列出了安装方式和监控、基准、自动调参等功能清单,可用于评估这套自托管面板是否覆盖本地推理运维需求。
来源:GitHub · 去对齐工具与仓库 · github.com