跳到正文
GitHub · 去对齐工具与仓库·· 8 天前精选AI 评分71

FreeLLMAPI 开源:把 34 家免费 LLM 档位聚合成一个 OpenAI 兼容端点

tashfeenahmed/freellmapi

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/tashfeenahmed/freellmapi

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

tashfeenahmed 发布 FreeLLMAPI,将 34 家提供商的 635 个免费模型端点聚合为单一 OpenAI 兼容 /v1 API,宣称合计约每月 74 亿 token 免费推理容量。路由器按速度、能力、可靠性评分选模型,429/5xx 时自动冷却并切换下一家,按 key 跟踪 RPM/RPD/TPM/TPD 以不超各免费档上限;密钥 AES-256-GCM 加密存于本地 SQLite,目录每日两次从 freellmapi.co 拉取签名更新,免费版滞后 30 天,Premium 实时目录 $19/年。

推荐理由

原文给出了聚合 34 家免费档位的具体规模和路由、限流跟踪机制,读者可以据此评估自建免费推理池的可行性。

来源:GitHub · 去对齐工具与仓库 · github.com