跳到正文
GitHub · 灵魂体仓库·· 18 天前AI 评分48

local-ai-stack:一条命令在本地搭建私有 AI 全栈

rasidi3112/local-ai-stack

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/rasidi3112/local-ai-stack

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

local-ai-stack 是一个基于 Docker Compose v2 的 CLI 与容器编排工具包,一条命令即可在本地启动包含 Ollama 本地 LLM、Open WebUI、Qdrant 向量库、PostgreSQL 和 OpenAI 兼容 API 网关的完整私有 AI 环境。它支持 minimal、standard、full 三档预设(最低 8 GB 内存起步),自动检测 OS、架构与 GPU(Apple Metal / NVIDIA CUDA),推理与数据全程不出本地。内置 doctor 诊断、模型管理与备份恢复(SHA-256 校验),OpenAI SDK 或 LangChain 可零改动直接接入。

来源:GitHub · 灵魂体仓库 · github.com