开源 RAG 性能优化系统:模块化测量与分析检索、生成与延迟
一个新的开源仓库 av-ml-ai-systems/rag-performance-optimization-system 发布,目标是构建模块化 RAG 系统,系统性地测量和优化检索、生成、延迟、token 用量与资源效率。技术栈包括 Python、LangChain、Hugging Face / Sentence Transformers、ChromaDB、Ollama、FastAPI 与 React,并配置 ruff、mypy、pytest 等质量工具。项目目前处于 Phase 1 基础搭建阶段,尚未实现 baseline RAG。