GitHub · 去对齐工具与仓库·· 18 天前AI 评分33
llmlab:对 llmgateway 与 agentloop 的资金计费与故障行为实测
paoValle/llmlab
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/paoValle/llmlab
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
llmlab 仓库通过故障注入和真实 agent 对 llmgateway 与 agentloop 的计费与故障行为进行实测。7 µUSD 上限下 10 次请求仅 5 次被服务、5 次返回 429,provider-a/b 各调用 1 次的 failover 对客户端表现为 200,100 次请求恰花费 100 µUSD。实测中 llmgateway 计费 1 µUSD 与 agentloop trace 的 1 µUSD 完全一致,回放相同,cargo test 以断言守住这些不变量。
来源:GitHub · 去对齐工具与仓库 · github.com