用 4 张 6000 Blackwell MaxQ 为公司 40 人提供本地 AI 服务

一位 Reddit 用户分享如何用一台 4U 服务器为 40 名员工（其中 10 名开发者）提供本地 AI 服务，总成本约 55k€。服务器配备 4 张 6000 Blackwell MaxQ、384GB DDR5 和 AMD EPYC 9275F 24 核 CPU，运行 Proxmox 并以 LXC 容器部署。主模型为 DeepSeek V4 Flash（vLLM、TP4、1M 上下文），备用模型 Qwen 3.8 27B Q8（265K 上下文），另配 n8n 自动化、OpenWebUI、ComfyUI 及 BGE-M3 嵌入/重排。