lablup 开源 Rust 推理引擎 mlxcel，支持 Apple Silicon、CUDA 和实验性 ROCm

lablup 在 GitHub 发布本地推理引擎 mlxcel（当前 main 为 v0.7.0 加未发布工作），用 Rust 实现 CLI 与服务器，通过 MLX C++ 绑定直接加载 MLX SafeTensors 权重，请求路径无 Python、无需转换 checkpoint。支持文本、多模态、embedding、重排、语音推理，提供 continuous batching、prompt caching、投机解码、多模型路由和 OpenAI/Anthropic/Vertex 兼容接口，Apple Silicon 为主目标，Linux/CUDA 为次要目标，AMD ROCm 为实验性源码构建支持。