跳到正文
GitHub · 去对齐工具与仓库·· 8 小时前精选AI 评分60

lukk-node 开源:面向 Ollama 本地部署的零依赖 GPU 遥测与推理守护进程

SirFassler/lukk-node

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/SirFassler/lukk-node

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Rodrigo Henriquez(@SirFassler)在 GitHub 开源 lukk-node,一个仅用 Python 标准库的客户端-服务端守护进程与 CLI,面向在专用 GPU 机器上通过 Ollama 跑本地 LLM 的开发者和玩家。它通过 nvidia-smi 提供实时 GPU 遥测(温度、功耗、负载、VRAM),支持委托式流式推理(NDJSON),并可在 1 秒内清空 VRAM 让 GPU 完全用于游戏;v1.2.0 加入可选 Bearer token 认证,另有 --auto-gaming 模式每 4 秒扫描游戏进程自动驱逐模型。项目采用 MIT 许可证。

推荐理由

作者开源了一个零依赖的 GPU 节点守护进程,把 Ollama 遥测、流式推理和秒级 VRAM 清空整合进一套 CLI,适合本地跑模型兼打游戏的场景。

来源:GitHub · 去对齐工具与仓库 · github.com