Rust 从零实现的 LLM 推理服务器 denno-beta 开源，兼容 Anthropic Messages API

ahinore 开源了用 Rust 从零实现的 LLM 推理服务器 denno-beta，推理内核不依赖 candle 等现有库，兼容 Anthropic Messages API，可直接配合官方 Anthropic Python SDK 使用。支持 GPT-2 124M 与 Qwen2.5-0.5B–7B-Instruct、Qwen3-0.6B、Qwen3.5 等模型，默认 CPU 运行，可通过 --features cuda 卸载到手写 CUDA 内核（13,252-token prefill 从 395.8s 降到 12.2s）。