跳到正文
GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分67

s1line1 开源 home-llm-gateway:把内网本地模型安全暴露为公网 OpenAI 兼容 API

s1line1/home-llm-gateway

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/s1line1/home-llm-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

s1line1 在 GitHub 发布 home-llm-gateway,用 Rust 实现边缘 LLM 网关,把 NAT 后、无公网入口的本地模型(Ollama / vLLM / llama.cpp)暴露成公网 OpenAI 兼容 API。架构为 cloud-gateway 加 edge-agent,通过 QUIC + mTLS 反向拨号隧道,无需 frp / ngrok 与反向代理,支持 SSE 流式与取消传播、按 model 的感知路由、argon2id 身份校验缓存等。项目包含 368 个通过的测试、k6 压测脚本与 React 管理面板,MIT 许可;协议级去重(EXACTLY_ONCE)与 TCP 降级等项仍是提案、未实现。

推荐理由

README 给出了完整架构与实测数据,读者可以借这套设计了解内网模型安全暴露成公网 OpenAI API 的工程做法。

来源:GitHub · 去对齐工具与仓库 · github.com