开源 LLM 推理节能优化 agent WattNot
热点事件持续更新
开源 LLM 推理节能优化 agent WattNot
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
开发者 ak9381 在 Meta Global AI Developer Hackathon（2026 年 10 月 26 日至 11 月 4 日）期间开发并开源了 WattNot，一个降低单次 LLM 推理请求能耗与成本的智能体，项目以 MIT 许可发布在 GitHub。 WattNot 基于 vLLM 服务 Meta 开源权重的 Llama 3.1 8B Instruct，通过尝试 batching、KV-cache、FP8、GPU 功率上限等调整来降低每次推理请求的能耗与成本，且仅在质量与 p99 延迟保持时保留改动，并为每个请求生成可复验的能耗与费用凭证。据仓库说明，10 月 26 日前项目仅有规划文档、尚无代码。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 04:29
WattNot：降低 LLM 推理能耗与成本的智能体开源仓库报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- GitHub · 灵魂体仓库WattNot：降低 LLM 推理能耗与成本的智能体开源仓库
WattNot 是一个在 Meta Global AI Developer Hackathon（2026 年 10 月 26 日至 11 月 4 日）期间开发的智能体，通过尝试 batching、KV-cache、FP8、GPU 功率上限等调整来降低每次 LLM 推理请求的能耗与成本，且仅在质量与 p99 延迟保持时保留改动。它基于 vLLM 服务 Meta 开源权重的 Llama 3.1 8B Instruct，并为每个请求生成可复验的能耗与费用凭证，项目以 MIT 许可开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。