开源仪表盘 Valet 用本地 LLM 管理 homelab
热点事件持续更新
开源仪表盘 Valet 用本地 LLM 管理 homelab
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Reddit 用户 /u/egfwivbwwruigwrhfbsr 发布开源工具 Valet:一个仪表盘配合聊天智能体管理 homelab 服务,支持任意本地或托管模型,集成 185+ 服务并支持自定义插件。作者称在 5090 上运行 Qwen 3.8 27B 约 230 tok/s,多数响应耗时 2–5 秒,该模型在其自写的小型评测集上约 90%。 默认只读,需开启认证(本地账户、OIDC 或代理认证)后才能从页面改动;任何变更都等待用户批准,使用本地模型时数据不出本地网络。工具运行在用户自有硬件上,无需账户、无遥测,文档免费且开源。 作者称隐藏未用集成的工具、关闭思考、懒加载工具三项优化可把每次回答的 token 减少 30–50%,但关闭思考会让模型在追问时编造答案。
AI 根据报道生成 · 58 分钟前更新
最新进展11月7日 22:32
Valet:用本地 LLM 管理 homelab 的开源仪表盘报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- Reddit · r/LocalLLaMAValet:用本地 LLM 管理 homelab 的开源仪表盘
作者发布开源项目 Valet,用一个仪表盘配合聊天智能体管理 homelab 服务,支持任意本地或托管模型,集成 185+ 服务并支持自定义插件。他在 5090 上运行 Qwen 3.8 27B,约 230 tok/s,多数响应耗时 2–5 秒,该模型通过他自写的小型评测集约 90%。隐藏未用集成的工具、关闭思考、懒加载工具三项优化把每次回答的 token 减少 30–50%,但关闭思考会让模型在追问时编造答案。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。