hailo-10h-services：面向 Hailo-10H 的常驻推理网关

GitHub 上的 leonsio/hailo-10h-services 项目为 Hailo-10H 提供常驻推理网关，通过 OpenAI 兼容 API、MCP、WebSocket、MQTT 等接口暴露 VLM、LLM、语音、嵌入和 YOLO 检测模型。支持 Qwen2-VL-2B/Qwen3-VL-2B、Qwen、Llama、DeepSeek 等 HEF LLM、Whisper、MiniLM 和 YOLO，Gemma 4 E2B 可经 LiteRT-LM 独立跑在 CPU 上。受 HailoRT/GenAI 5.4.0 限制，Hailo 上一次只能驻留一个 GenAI 语言模型，VLM 与原生 LLM 需二选一。