GitHub · 灵魂体仓库·· 10 天前AI 评分44
nvidia-api-proxy:把 NVIDIA API key 藏在自己控制的令牌之后
ak-a-ra/nvidia-api-proxy
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ak-a-ra/nvidia-api-proxy
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 nvidia-api-proxy 是一个零依赖 Node.js 反向代理,客户端用它自己的 PROXY_AUTH_TOKEN 调用 NVIDIA NIM API,真实 NVIDIA_API_KEY 只留在服务端,请求路径与请求体逐字节透传。它支持 SSE 无缓冲流式响应、timingSafeEqual 恒定时间鉴权、并发上限加有界 FIFO 队列(超限返回 429 与 Retry-After)、PROXY_RPM/PROXY_TPM 限流,客户端断开会同步取消上游请求。项目基于 Node >= 18.14,附 Render 部署配置,含 141 个黑盒测试。
来源:GitHub · 灵魂体仓库 · github.com