跳到正文
我的
GitHub · 去对齐工具与仓库·· 1 小时前AI 评分34

go-llmflow/bench:面向 LLM 网关的纯 Go 测量与混沌测试工具

go-llmflow/bench

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/go-llmflow/bench

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

go-llmflow/bench 提供纯 Go 的 LLM 网关测量工具,含 gwbench 网关延迟 A/B、fakevllm 假 vLLM 和 llmchaos 混沌测试。llmchaos 对 llmflow-gateway 注入故障并判定九项不变量,CI 用 seeds 1 到 5 跑 31 个场景,针对 gateway v0.37.1 和 v0.38.0。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。