跳到正文
GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分64

DPJX04/llm_panel 发布浏览器版 vLLM 基准结果对比面板

DPJX04/llm_panel

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/DPJX04/llm_panel

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

DPJX04 在 GitHub 发布 llm_panel,把 vllm bench serve --save-result 输出的 JSON 结果文件转成浏览器内可读的对比表格与图表,双击 index.html 即可使用、无需安装。面板支持多文件与多种 JSON 格式混入、读取 vLLM 日志补全模型权重与 KV cache 等信息,提供 Overview、Compare models、Model detail、Accuracy、Vector DB 等视图;内置 52 题的 Starter 测试集可在浏览器内对模型服务做准确率测试,另支持 VectorDBBench 结果对比,数据保存在浏览器本地并可导出工作区或 CSV。

推荐理由

原文完整说明了面板的功能、数据格式与指标口径,读者可据此评估是否适合整理自己的 vLLM 基准结果。

来源:GitHub · 去对齐工具与仓库 · github.com