AI-Bench v1.0.0 发布：本地评测 LLM 性能的开源工具
热点事件持续更新
AI-Bench v1.0.0 发布：本地评测 LLM 性能的开源工具
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
开源工具 AI-Bench 发布 v1.0.0，可在本地 CPU 和 GPU 上运行 AI/LLM 性能基准测试，并通过桌面 UI 展示结果。 该工具封装了 llama.cpp llama-bench（测试 GGUF 模型的提示处理与生成吞吐）和 MLPerf Client（覆盖 llama.cpp/CUDA、DirectML、OpenVINO、TensorRT-RTX 等执行提供方的标准化推理基准），另内置 GEMM 吞吐、内存带宽、模拟 token 生成等合成基准，无需下载模型即可运行。实际运行基准需要相应二进制文件（Windows 安装包已捆绑），GPU 测试结果则需要配备 GPU。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 01:48
AI-Bench 发布 v1.0.0，在本地 CPU/GPU 上评测 LLM 性能报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- GitHub · 去对齐工具与仓库精选AI-Bench 发布 v1.0.0，在本地 CPU/GPU 上评测 LLM 性能
开源工具 AI-Bench 发布 v1.0.0，可在本地 CPU 和 GPU 上运行 AI/LLM 性能基准并以桌面 UI 展示结果。它封装 llama.cpp llama-bench（GGUF 模型的提示处理与生成吞吐）和 MLPerf Client（跨 llama.cpp/CUDA、DirectML、OpenVINO、TensorRT-RTX 等执行提供方的标准化推理基准），并内置合成基准（GEMM 吞吐、内存带宽、模拟 token 生成）无需下载即可运行。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。