跳到正文
GitHub · 灵魂体仓库·· 19 天前精选AI 评分55

karmise/local-llm-lab:基于 AnythingLLM 与 Ollama 的本地 LLM/RAG 测试框架

karmise/local-llm-lab

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/karmise/local-llm-lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

karmise 发布 local-llm-lab,一个本地 AnythingLLM 环境加 Python 自动化框架,用于测试 LLM 和 RAG 工作流。框架提供分层 API 客户端、工作区生命周期、文档检索、两个生成模型的对比检查、本地 RAGAS 评测与人工标注判分控制、16 例 golden 数据集、对抗与偏见回归场景及 Playwright UI 场景;组件含 AnythingLLM、Ollama、Qwen3.5 4B、Qwen2.5 7B、BGE-M3 和 LanceDB,通过 ./lab.sh 管理环境,GitHub Actions 运行离线检查。

推荐理由

这个本地 RAG 测试框架把 API 分层客户端、上下文捕获、RAGAS 评测和人工校准的判分控制串成完整流程,做法可直接迁移。

来源:GitHub · 灵魂体仓库 · github.com