GitHub · 灵魂体仓库·· 20 天前精选AI 评分55
BeinnoLLC 开源 LLM-Telemetry:混合 LLM 集群可观测性工具
BeinnoLLC/LLM-Telemetry
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/BeinnoLLC/LLM-Telemetry
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
BeinnoLLC 在 GitHub 发布 LLM-Telemetry,把本地 Ollama 主机和托管 API 的 LLM 遥测汇总到一个自包含 HTML 仪表盘,展示实时会话、GPU/CPU/VRAM 负载、按模型和任务的开销、失败类型和 provider→model→task 流向图。
推荐理由
原文完整给出了安装、配置和各命令的用法,读者可以直接照着把本地与托管模型的监控面板跑起来。
来源:GitHub · 灵魂体仓库 · github.com