跳到正文
GitHub · 灵魂体仓库·· 17 天前AI 评分28

UtopikLab/llm-rig:Homelab 本地 LLM 与图像工具 POC 仓库

UtopikLab/llm-rig

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/UtopikLab/llm-rig

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 上的 UtopikLab/llm-rig 仓库收录了 192.168.1.0/24 子网 Homelab 的本地 LLM 与图像工具 POC 配置。推理节点采用 2× Tesla P40(R740xd),以 llama.cpp + Ollama 运行 GGUF INT8/Q4_K_M 模型;因 P40 FP16 性能差,ComfyUI 图像生成建议用 RTX 3080 或 CPU。仓库按 POC 分文件夹,各含独立 README 与安装脚本,仅覆盖本地推理/图像栈,不含其余三个 Homelab 节点。

来源:GitHub · 灵魂体仓库 · github.com