GitHub · 灵魂体仓库·· 2 小时前AI 评分18
WattNot：降低 LLM 推理能耗与成本的智能体开源仓库
ak9381/wattnot
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ak9381/wattnot
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
WattNot 是一个在 Meta Global AI Developer Hackathon（2026 年 10 月 26 日至 11 月 4 日）期间开发的智能体，通过尝试 batching、KV-cache、FP8、GPU 功率上限等调整来降低每次 LLM 推理请求的能耗与成本，且仅在质量与 p99 延迟保持时保留改动。它基于 vLLM 服务 Meta 开源权重的 Llama 3.1 8B Instruct，并为每个请求生成可复验的能耗与费用凭证，项目以 MIT 许可开源。
来源：GitHub · 灵魂体仓库 · github.com