SlotServe 开源：把一张 GPU 变成实验室共享的可预约 llama.cpp 推理服务

PelerYuan 在 GitHub 开源 SlotServe，将一张 GPU 变成实验室或小团队共享的可预约推理服务。用户在网页日历上预订独占时段，通过 OpenAI 兼容端点和个人 API key 调用模型，系统自动托管 llama-server、学习各模型加载时间并在预约开始前预加载。支持 .gguf 模型下载、用量仪表盘、Telegram 通知、Prometheus 指标，单容器部署仅需 SQLite 和三个挂载目录，采用 MIT 许可证。