AutreMachine 发布开源项目 llm-router：多机 LLM 负载均衡路由器

AutreMachine 在 GitHub 发布 llm-router，一个 OpenAI 兼容的负载均衡路由器，可将分布在多台机器上的 LLM 和嵌入模型（llama.cpp、Ollama、vLLM、LM Studio 等暴露 /v1/chat/completions 等端点的后端）统一到单一端点调用。单进程双端口设计：8000 端口提供需 API key 的公开 API，8001 端口为仅限局域网的 Web 管理台。