GitHub · 灵魂体仓库·· 20 天前AI 评分18
mantou2046/LLMOps-Engineer:带引用溯源与量化评估的 LLM 问答工程项目
mantou2046/LLMOps-Engineer
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mantou2046/LLMOps-Engineer
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 LLMOps-Engineer 构建“可复现、可评估、可观测”的 LLM 应用,用于回答资金/财务制度类问题,核心是搭建“检索→评估→观测→成本”工程闭环,为每个回答建立量化基线并实现引用溯源。项目基于 FastAPI、RAGAS 四指标、Langfuse 和 LiteLLM 等,通过 RAGAS、Grafana、云账单等追踪 faithfulness、P95 延迟等 5 个指标,并设有提交前脱敏门禁防止真实敏感信息入库。
来源:GitHub · 灵魂体仓库 · github.com