跳到正文
GitHub · 去对齐工具与仓库·· 6 天前AI 评分40

InGauge:让推理容量余量可视化的 Rust 开源工具

elci-group/ingauge

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/elci-group/ingauge

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

InGauge 是一个 Rust 原生守护进程,可在推理负载触及上限前探测任意 provider、router 或 harness,用 SQLite 存储带类型的历史并预测 token 消耗。其 TUI 仪表盘以 12.5 FPS 渲染 REVS、SPEED、OIL/RPD 等仪表,内置 OpenAI、Anthropic、Groq、Gemini、OpenRouter 预设;在 Linux 上还通过 ss -tinp 采样加密网络流量估算用量,密钥以 mode-0600 存储在项目目录之外。

来源:GitHub · 去对齐工具与仓库 · github.com