GPUGate 开源工具：在 RunPod 和 Verda 上按需租用 GPU 并以固定本地地址服务模型

DavidTimar1 发布开源工具 GPUGate（AGPLv3），在 RunPod 和 Verda 上列出可租 GPU 机器与实时价格，一键租用后用 vLLM（RunPod 上 GGUF 模型用 llama.cpp）启动模型服务，并通过固定本地地址 http://<host>:8719/p/<project>/v1 转发 OpenAI 和 Anthropic API 请求，工具看不到机器和密钥。支持空闲或故障时自动销毁机器、在允许范围内自动迁移到更便宜的机器，并统计 token 与费用。作者声明这是业余项目，无维护承诺，租用会产生真实费用，使用前应先读代码。