GitHub · 去对齐工具与仓库·· 20 天前AI 评分54
Rust 网关工具 ponyllm 发布,统一主流大模型 API 并支持多 Key 故障倒换
lanhui100/ponyllm
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/lanhui100/ponyllm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
lanhui100 在 GitHub 发布基于 Rust 的统一网关 ponyllm,聚合 OpenAI、Anthropic、DeepSeek 等提供商接口,提供终端控制台与 TUI 看板。工具支持 OpenAI Chat Completions、Responses API 与 Anthropic Messages 之间双向无损转译并保留思考链与工具调用,多 Key 账户池支持轮询、优先级与加权调度,在首字节前拦截 429、402/403 与 5xx 实现毫秒级无感故障倒换,配置热更新约 500ms 内生效,采用 MIT License。
来源:GitHub · 去对齐工具与仓库 · github.com