跳到正文
GitHub · 灵魂体仓库·· 3 天前AI 评分61

bitbaum 发布 ai-kit:把应用的模型回退、429 分类与配额管理打包成一个 npm 安装

bitbaum/ai-kit

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/bitbaum/ai-kit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

bitbaum 发布 @bitbaum/ai-kit(v0.3.0 前名为 ai-ration),把应用接入 AI 需要的多个决策合并为一次 pnpm 安装:模型回退链、complete()/completeStream() 调用、健康探测、模型目录腐化检查、三种 429 分类、免费额度公平分享、表单填充、网络搜索引用绑定、视觉模型路由与 BYOK 密钥校验。动机来自 2026-08-26 Groq 停用全部 llama-3.x 系列时,五个仓库同时宕机而采用回退链的那一个不受影响;实测发现九个免费模型中五个仅支持文本工具协议、groq/openai/gpt-oss-20b 在 maxTokens 16 时返回空而 256 时正确,因此 complete() 把空内容 200 视为失败并为每条链路单独设超时。

来源:GitHub · 灵魂体仓库 · github.com