跳到正文
GitHub · 灵魂体仓库·· 20 天前精选AI 评分55

BeinnoLLC 开源 LLM-Telemetry:混合 LLM 集群可观测性工具

BeinnoLLC/LLM-Telemetry

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/BeinnoLLC/LLM-Telemetry

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

BeinnoLLC 在 GitHub 发布 LLM-Telemetry,把本地 Ollama 主机和托管 API 的 LLM 遥测汇总到一个自包含 HTML 仪表盘,展示实时会话、GPU/CPU/VRAM 负载、按模型和任务的开销、失败类型和 provider→model→task 流向图。

推荐理由

原文完整给出了安装、配置和各命令的用法,读者可以直接照着把本地与托管模型的监控面板跑起来。

来源:GitHub · 灵魂体仓库 · github.com