跳到正文
GitHub · 去对齐工具与仓库·· 7 天前AI 评分52

BleedStop 开源:面向 LLM、SMS 和支付 API 的成本滥用控制平面

usmamalik345/bleedstop

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/usmamalik345/bleedstop

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

usmamalik345 在 GitHub 开源 BleedStop,一个针对 OWASP LLM10 无界消耗的成本滥用控制平面,应用在花钱前调用 POST /decide 获取 ALLOW|LIMIT|CHALLENGE|DENY 决策,基于每租户确定性规则并经 Redis 在多实例间原子执行。实测 3 实例加 Redis 达 6,291 决策/秒、p99 31.9 ms、$5 上限下超支 $0.000;12,140 条标注请求的黄金集评测 precision 100%、误报 0.0%、recall 48.0%;40 万字符 token 洪泛 100% 拦截,Agent 守卫开发集 96.4%、留出集 22.5%。

来源:GitHub · 去对齐工具与仓库 · github.com