GitHub · 去对齐工具与仓库·· 1 小时前AI 评分34
go-llmflow/bench:面向 LLM 网关的纯 Go 测量与混沌测试工具
go-llmflow/bench
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/go-llmflow/bench
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
go-llmflow/bench 提供纯 Go 的 LLM 网关测量工具,含 gwbench 网关延迟 A/B、fakevllm 假 vLLM 和 llmchaos 混沌测试。llmchaos 对 llmflow-gateway 注入故障并判定九项不变量,CI 用 seeds 1 到 5 跑 31 个场景,针对 gateway v0.37.1 和 v0.38.0。
来源:GitHub · 去对齐工具与仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。