跳到正文
GitHub · 去对齐工具与仓库·· 3 小时前AI 评分39

dsh-llm-multi-rate-limiter:面向 DeepSeek Harness 的按模型 LLM 限流插件

NacedWang/dsh-llm-multi-rate-limiter

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/NacedWang/dsh-llm-multi-rate-limiter

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

NacedWang 发布 dsh-llm-multi-rate-limiter 0.1.1,为 DeepSeek Harness 提供 provider/model 级的 LLM 限流,从 @leaf233/dsh-llm-rate-limiter 0.3.0 分叉而来。支持 token bucket 与 sliding window 两种策略、按模型覆盖(如 openai/gpt-5.1 maxRpm 20)、限流调用可排队或拒绝(maxQueueWaitMs 240000),并提供每秒轮询的实时状态面板与可热重载的 Settings 页面。插件只读取 provider/model/signal,不检查提示词与响应内容、不发起外部网络调用,MIT 协议开源。

来源:GitHub · 去对齐工具与仓库 · github.com