PegaInfer 开源无 PyTorch 的 LLM 推理引擎，支持 Qwen3 等多模型

PegaInfer 项目在 GitHub 开源了一个用 Rust 编写、不依赖 PyTorch 或 Python 运行时的 LLM 推理服务引擎，通过 OpenAI 兼容 API 提供服务，每个模型拥有独立的调度器和内核。预编译版本内置 CUDA 13 与 cuBLAS，默认支持 Qwen3，需 Linux x86_64、算力 8.x–12.x 的 NVIDIA GPU 和 580+ 驱动。