Ollama Herd 发布：用 mDNS 自动发现把多台设备组成 Ollama 本地推理集群

Ollama Herd 是一个本地推理路由器与负载均衡器，通过 mDNS 自动发现局域网内运行 Ollama 的设备，用打分机制按热状态、显存、队列深度等把请求路由到最优机器，仅需 pip install ollama-herd 后运行 herd 和 herd-node 两条命令。除 LLM 外还路由视觉（gemma3、llava）、图像生成（mflux 的 FLUX、DiffusionKit）、语音转文字（Qwen3-ASR）和嵌入向量，提供 OpenAI 兼容 API（端口 11435）、模型回退、46 项自动健康检查和实时仪表盘，支持 macOS、Linux、Windows，其中图像生成和 MLX 语音转文字仅限 Apple Silicon。