GitHub · 去对齐工具与仓库·· 6 天前AI 评分40
InGauge:让推理容量余量可视化的 Rust 开源工具
elci-group/ingauge
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/elci-group/ingauge
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
InGauge 是一个 Rust 原生守护进程,可在推理负载触及上限前探测任意 provider、router 或 harness,用 SQLite 存储带类型的历史并预测 token 消耗。其 TUI 仪表盘以 12.5 FPS 渲染 REVS、SPEED、OIL/RPD 等仪表,内置 OpenAI、Anthropic、Groq、Gemini、OpenRouter 预设;在 Linux 上还通过 ss -tinp 采样加密网络流量估算用量,密钥以 mode-0600 存储在项目目录之外。
来源:GitHub · 去对齐工具与仓库 · github.com