llm-performance-benchmark-cli：用于 Hugging Face 模型性能基准测试的 Python 命令行工具

pavanisri-hub 开源了 llm-performance-benchmark-cli，一个用于基准测试和对比 Hugging Face 因果语言模型的 Python 命令行工具。计划功能包括从 YAML/JSON 配置加载 3 个以上模型、测量端到端推理延迟与生成吞吐、监控 RAM 和 CUDA VRAM，以及计算生成 token 长度、type-token ratio 和退化输出率等基线质量指标。结果可持久化为 CSV 并生成对比图表，通过 Docker 和 Docker Compose 保持一致运行，目前实现仍在进行中。