GitHub · 灵魂体仓库·· 17 天前AI 评分28
UtopikLab/llm-rig:Homelab 本地 LLM 与图像工具 POC 仓库
UtopikLab/llm-rig
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/UtopikLab/llm-rig
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 UtopikLab/llm-rig 仓库收录了 192.168.1.0/24 子网 Homelab 的本地 LLM 与图像工具 POC 配置。推理节点采用 2× Tesla P40(R740xd),以 llama.cpp + Ollama 运行 GGUF INT8/Q4_K_M 模型;因 P40 FP16 性能差,ComfyUI 图像生成建议用 RTX 3080 或 CPU。仓库按 POC 分文件夹,各含独立 README 与安装脚本,仅覆盖本地推理/图像栈,不含其余三个 Homelab 节点。
来源:GitHub · 灵魂体仓库 · github.com