跳到正文
Reddit · r/LocalLLaMA· /u/ElekDn·· 7 天前AI 评分18

用双 3060 12GB 的旧服务器跑 MoE 模型,我漏了什么?

Old server machine with 2x 3060 12GB for MoE models, anything I’m missing?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/ElekDn

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xamrvy/old_server_machine_with_2x_3060_12gb_for_moe/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位用户计划以约 €550 购入二手 HP Z640(2x E5-2680 v4、64GB ECC 2400),加装两块 3060 跑 Qwen 3.8 Flash Next(Strata)和 llama.cpp,并兼顾 PyTorch CV 训练、PyBullet RL、LLM LoRA 训练与 MiniMax H3 视频生成。其疑问包括双 3060 能否装入 Z640、双路 CPU 是否影响 llama.cpp 的 MoE offload、M6000 作第三卡是否值得保留,以及 PSU 仅两根 6-pin、HP 限双卡各 150W 时用适配器加功率限制是否可行。

来源:Reddit · r/LocalLLaMA · reddit.com