GitHub · 灵魂体仓库·· 20 天前AI 评分53
mpuri1 开源 llmops-backbone:LLM 项目共享工具集
mpuri1/llmops-backbone
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mpuri1/llmops-backbone
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
mpuri1 发布 llmops-backbone 仓库,为 LLM 项目提供共享工具:模型网关、OpenTelemetry 追踪和项目模板。网关基于 LiteLLM 提供 OpenAI 兼容端点和模型别名(fast、smart、fallback)及重试,带每日预算强制和消费账本;追踪采用 GenAI 语义约定,可导出到 Arize Phoenix,按内容哈希记录提示词模板;另含 Bedrock 本地 SigV4 签名代理和 copier 项目模板。
来源:GitHub · 灵魂体仓库 · github.com