跳到正文
GitHub · 灵魂体仓库·· 20 天前AI 评分53

mpuri1 开源 llmops-backbone:LLM 项目共享工具集

mpuri1/llmops-backbone

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mpuri1/llmops-backbone

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mpuri1 发布 llmops-backbone 仓库,为 LLM 项目提供共享工具:模型网关、OpenTelemetry 追踪和项目模板。网关基于 LiteLLM 提供 OpenAI 兼容端点和模型别名(fast、smart、fallback)及重试,带每日预算强制和消费账本;追踪采用 GenAI 语义约定,可导出到 Arize Phoenix,按内容哈希记录提示词模板;另含 Bedrock 本地 SigV4 签名代理和 copier 项目模板。

来源:GitHub · 灵魂体仓库 · github.com