GitHub · 去对齐工具与仓库·· 8 小时前精选AI 评分60
lukk-node 开源:面向 Ollama 本地部署的零依赖 GPU 遥测与推理守护进程
SirFassler/lukk-node
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/SirFassler/lukk-node
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Rodrigo Henriquez(@SirFassler)在 GitHub 开源 lukk-node,一个仅用 Python 标准库的客户端-服务端守护进程与 CLI,面向在专用 GPU 机器上通过 Ollama 跑本地 LLM 的开发者和玩家。它通过 nvidia-smi 提供实时 GPU 遥测(温度、功耗、负载、VRAM),支持委托式流式推理(NDJSON),并可在 1 秒内清空 VRAM 让 GPU 完全用于游戏;v1.2.0 加入可选 Bearer token 认证,另有 --auto-gaming 模式每 4 秒扫描游戏进程自动驱逐模型。项目采用 MIT 许可证。
推荐理由
作者开源了一个零依赖的 GPU 节点守护进程,把 Ollama 遥测、流式推理和秒级 VRAM 清空整合进一套 CLI,适合本地跑模型兼打游戏的场景。
来源:GitHub · 去对齐工具与仓库 · github.com