跳到正文
GitHub · 去对齐工具与仓库·· 19 天前AI 评分27

AquaMind:并发阶梯负载下 LLM 应用质量退化测试工具

hu-chenyu/AquaMind

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/hu-chenyu/AquaMind

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

开源工具 AquaMind 面向调用模型 API 或自部署端点的 LLM 应用,通过并发阶梯负载实验量化负载下质量退化,配套 S1-S4 退化统计判定与 S5-S8 测量有效性校验,并输出 SLO×质量双门禁报告。它同时测量 TTFT/ITL/p50-p99 延迟、TPS/goodput、LLM-as-Judge 质量分与 token 成本,把压测与评测指标放进同一份自包含 HTML 报告。当前版本 0.0.4 为占位包,v1.0 计划已冻结,按 M1→M6 六个里程碑推进,MIT 许可证开源。

来源:GitHub · 去对齐工具与仓库 · github.com