跳到正文
Reddit · r/LocalLLaMA· /u/paq85·· 18 天前AI 评分43

本地 LLM 服务器到底要花多少钱?一台浏览器内免费电费计算器(功耗 + tok/s,自托管对比云 API)

How much does your local LLM server really cost? (power draw + tok/s, self-hosted vs cloud API, free in-browser) :)

来源与原文

Reddit · r/LocalLLaMA

作者:/u/paq85

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x1g2kd/how_much_does_your_local_llm_server_really_cost/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Reddit r/LocalLLaMA 用户 paq85 发布了一款免费浏览器内本地 LLM 电费计算器:输入 GPU 功耗(W)和 token 速度(tok/s)、电价后,可算出每小时、每次请求、每月及每 1M input tokens 的成本(含/不含 KV cache),并提供 RTX 4070 Ti Super、RTX 5090、RTX 5090 eco 三种 GPU 预设。工具基于固定场景(60k input / 50k cached / 2k output / 90% uptime)对比参考云 API 价格($0.25/1M input、$1.20/1M output),全部计算在本地浏览器完成,无需注册、不上传数据。

来源:Reddit · r/LocalLLaMA · reddit.com