inferrous：纯 Rust 实现的 LLM 推理引擎，GPU kernel 也用 Rust 编写

bitemyapp 开源 inferrous 项目，用 Rust 编写 LLM 推理引擎，所有 GPU kernel 经 cuda-oxide 编译，不含 CUDA C++ 及厂商 BLAS 或 attention 库。首个引擎 inferrous-qwen3 在 RTX PRO 6000 Blackwell 上以 W8A8 INT8 运行 Qwen3-8B，解码速度 182.3/178.2/170.5 tokens/s（5/129/512-token 提示词），快于 vLLM+Humming INT8（144.4/143.3/142.9）。目前为研究级代码，单请求、greedy 解码、最长 4096 token 上下文，下一目标为 Qwen3.6-35B-A3B FP8。