llm-tools-gateway：给本地 LLM 注入服务端工具的 OpenAI 兼容代理

andrewrduncan 开源了 llm-tools-gateway，一个 OpenAI 兼容代理，位于模型服务器（vLLM、llama.cpp、Ollama、LM Studio、TGI 等）之前，向每个请求注入工具定义并在服务端执行，返回完成后的答案。支持网页搜索、抓取、无头浏览器、基于 pgvector 的记忆与 RAG、图像生成与编辑；每个工具可选且自禁用，仅配置 UPSTREAM_URL 也能获得日期时间和 URL 抓取。记忆按 subject 分区实现多用户隔离，慢工具通过 reasoning_content 流式输出进度。项目以 Apache-2.0 许可发布，仓库地址 https://github.com/andrewrduncan/llm-tools-gateway。