GitHub · 灵魂体仓库·· 19 天前AI 评分49
LocalAI-Lab:消费级硬件上的本地 LLM、RAG 与编程智能体测试床
Juandeleon-utec/LocalAI-Lab
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Juandeleon-utec/LocalAI-Lab
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
LocalAI-Lab 是一个在消费级硬件上搭建、运行和评测本地 AI 服务器的工程项目,聚焦 AI 辅助编程与学术研究/RAG 两类负载。编码栈采用 OpenCode + Qwen3-Coder-30B-A3B-Instruct,Q3_K_M 基准生成吞吐约 69.1 tok/s;学术栈用 Qwen3-30B-A3B-Instruct-2507 完成 24 篇论文的形式化筛选实验,两次运行均实现 8.3% 阅读量缩减并 100% 保留相关论文,全部运行记录与 SHA-256 指纹归档于 Git 以支持可复现性。
来源:GitHub · 灵魂体仓库 · github.com