Ninfer Extended：单张 RTX 5090 上多模型 prefill 与 decode 吞吐实测

/u/giveen 发布 NInfer 的扩展 fork ninfer-ext，在单张 RTX 5090 上实测多款模型的 prefill 与 decode 吞吐。测试覆盖 Gemma 4 26B-A4B (QAT int4)、Gemma 4 31B IT M1、Qwen3.6-35B-A3B（含 nvfp4）、Qwen3.8-27B（含 nvfp4）和 Qwen3.8-Flash-Next nvfp4，给出 1/2/4/8 并发下数据，prefill 最高达 21,897 tokens/s（Qwen3.6-35B-A3B nvfp4，C=8），并对比 plain 与 MTP 投机解码模式。