跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分54

Rust 网关工具 ponyllm 发布,统一主流大模型 API 并支持多 Key 故障倒换

lanhui100/ponyllm

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/lanhui100/ponyllm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

lanhui100 在 GitHub 发布基于 Rust 的统一网关 ponyllm,聚合 OpenAI、Anthropic、DeepSeek 等提供商接口,提供终端控制台与 TUI 看板。工具支持 OpenAI Chat Completions、Responses API 与 Anthropic Messages 之间双向无损转译并保留思考链与工具调用,多 Key 账户池支持轮询、优先级与加权调度,在首字节前拦截 429、402/403 与 5xx 实现毫秒级无感故障倒换,配置热更新约 500ms 内生效,采用 MIT License。

来源:GitHub · 去对齐工具与仓库 · github.com