GitHub · 去对齐工具与仓库·· 11 天前精选AI 评分55
Arcturos 开源:本地优先的 LLM 基准测试与评测面板
waxinz/arcturos
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/waxinz/arcturos
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
waxinz 在 GitHub 发布 Arcturos,一个本地优先的 LLM 基准测试与评测面板,所有数据保存在用户自有的本地 SQLite 文件中。它可对 OpenAI 兼容或 llama.cpp 原生推理服务器做基准测试,测量 decode tok/s、prefill tok/s、TTFT、wall time、MTP/speculative acceptance、并行流等多项指标并支持多上下文长度;支持带图表、固定基线和逐指标差值的并排对比,以及由外部 LLM judge 盲评的单轮与多轮 prompt 评测(pairwise A/B 偏好、按 judge 和类别统计胜率),并提供套件胜率与覆盖率报告、CSV 导出和 append-only 存储。
推荐理由
开源的本地 LLM 推理基准与评测面板,数据存本地 SQLite,可对比吞吐、TTFT 并用外部模型盲评 prompt。
来源:GitHub · 去对齐工具与仓库 · github.com