跳到正文
GitHub · 去对齐工具与仓库·· 18 天前AI 评分33

llmlab:对 llmgateway 与 agentloop 的资金计费与故障行为实测

paoValle/llmlab

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/paoValle/llmlab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

llmlab 仓库通过故障注入和真实 agent 对 llmgateway 与 agentloop 的计费与故障行为进行实测。7 µUSD 上限下 10 次请求仅 5 次被服务、5 次返回 429,provider-a/b 各调用 1 次的 failover 对客户端表现为 200,100 次请求恰花费 100 µUSD。实测中 llmgateway 计费 1 µUSD 与 agentloop trace 的 1 µUSD 完全一致,回放相同,cargo test 以断言守住这些不变量。

来源:GitHub · 去对齐工具与仓库 · github.com