跳到正文
GitHub · 灵魂体仓库·· 19 天前AI 评分44

Massed Compute 发布 gpu-benchmark 仓库:多款 LLM 在不同 GPU 上的推理速度评测数据

Massed-Compute/gpu-benchmark

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Massed-Compute/gpu-benchmark

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Massed Compute 开源了 gpu-benchmark 仓库,收录多款 LLM 及图像/视频模型在 RTX PRO 6000 Blackwell、H100、H200 NVL、L40S 等 GPU 上的推理速度评测数据,涵盖 Llama 3 系列、DeepSeek V4.1 Flash、Qwen3.8 27B、GLM 5.3 Flash 等模型。2026 年新增测试改用 vLLM 和 SGLang 引擎,固定输入 128 / 输出 128 tokens,并在 concurrency 1 / 8 / 32 下运行,Wave 5 的复现脚本位于 scripts/wave5/。

来源:GitHub · 灵魂体仓库 · github.com