跳到正文
GitHub · 灵魂体仓库·· 18 天前AI 评分44

idlefill:仅在本地 LLM 服务器空闲时运行后台 AI 任务的调度工具

idiosyncric/idlefill

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/idiosyncric/idlefill

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

idlefill 是一个开源项目,由 Fastify 编写的仲裁服务端和 Mac 守护进程客户端组成,通过监听 LLM 网关活动流和推理引擎日志的 mtime 判断服务器空闲,仅在空闲时向注册客户端发放租约以运行 job-queue 评估等后台任务,避免与交互流量争抢资源。核心设计是"自流量陷阱"处理:只有客户端持有活跃租约时,其流量才被豁免于空闲计算。Phase 1 已完成,仲裁器已于 2026-09-25 部署到 urza,compose + traefik 加固方案已于 2026-10-08 废弃。

来源:GitHub · 灵魂体仓库 · github.com