跳到正文
GitHub · 灵魂体仓库·· 19 天前AI 评分49

LocalAI-Lab:消费级硬件上的本地 LLM、RAG 与编程智能体测试床

Juandeleon-utec/LocalAI-Lab

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Juandeleon-utec/LocalAI-Lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

LocalAI-Lab 是一个在消费级硬件上搭建、运行和评测本地 AI 服务器的工程项目,聚焦 AI 辅助编程与学术研究/RAG 两类负载。编码栈采用 OpenCode + Qwen3-Coder-30B-A3B-Instruct,Q3_K_M 基准生成吞吐约 69.1 tok/s;学术栈用 Qwen3-30B-A3B-Instruct-2507 完成 24 篇论文的形式化筛选实验,两次运行均实现 8.3% 阅读量缩减并 100% 保留相关论文,全部运行记录与 SHA-256 指纹归档于 Git 以支持可复现性。

来源:GitHub · 灵魂体仓库 · github.com