The Grill 发布本地 LLM 服务器速度对比工具 grill-perf

plotarmordev 在 GitHub 发布 The Grill，其中 grill-perf 对已有的 OpenAI 兼容模型服务器做基准测试，改动引擎、flag 或机器后重跑，直接给出 measured faster、measured slower 或 inconclusive 的结论。工具本地运行、不上传数据，已在 vLLM、TensorFold 和 oMLX 上使用；示例中同一 4-bit Qwen3.8-Flash-Next 在 Mac Studio（M5 Ultra）达 246 tok/s，比 DGX Spark 的 118 tok/s 快 108.7%，但作者强调这比较的是整套部署而非芯片本身。