GitHub · 去对齐工具与仓库·2026-10-07 00:24· 20 天前精选AI 评分68

ErixWong 开源 llm-benchmark 命令行压测工具

ErixWong/llm-benchmark

来源与原文

GitHub · 去对齐工具与仓库

发布时间：2026-10-07 00:24（北京时间）

完整链接与内容说明

https://github.com/ErixWong/llm-benchmark

本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。

AI 导读

ErixWong 发布 llm-benchmark，一个针对 OpenAI Chat Completions 兼容端点的命令行压测工具，可测量 token 生成速度、首 token 延迟、吞吐与成功率，输出 JSON / Markdown / HTML 报告。

推荐理由

作者开源了自研的 LLM 端点压测工具，指标口径与 NVIDIA AIPerf 等对齐，并给出 ttft 口径变更等测量陷阱说明。