GitHub · 去对齐工具与仓库·· 19 天前AI 评分27
AquaMind:并发阶梯负载下 LLM 应用质量退化测试工具
hu-chenyu/AquaMind
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/hu-chenyu/AquaMind
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源工具 AquaMind 面向调用模型 API 或自部署端点的 LLM 应用,通过并发阶梯负载实验量化负载下质量退化,配套 S1-S4 退化统计判定与 S5-S8 测量有效性校验,并输出 SLO×质量双门禁报告。它同时测量 TTFT/ITL/p50-p99 延迟、TPS/goodput、LLM-as-Judge 质量分与 token 成本,把压测与评测指标放进同一份自包含 HTML 报告。当前版本 0.0.4 为占位包,v1.0 计划已冻结,按 M1→M6 六个里程碑推进,MIT 许可证开源。
来源:GitHub · 去对齐工具与仓库 · github.com