Reddit · r/LocalLLaMA· /u/BerryBlush_Rogers691·· 13 天前AI 评分23
在 4× DGX Spark 上运行 Ling-3.1-flash 是否可行：560B MoE 模型的部署讨论
Title: Thinking about running Ling-3.1-flash on 4× DGX Spark — how practical is this?
来源与原文
Reddit · r/LocalLLaMA
作者：/u/BerryBlush_Rogers691
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x5uy93/title_thinking_about_running_ling31flash_on_4_dgx/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Ant Ling 发布的 Ling-3.1-flash 权重已上线 HF，模型卡标注 560B 总参数、每 token 激活 25B，官方部署示例为 8× H200 或 4× GB300。一位用户计划在 4 台 DGX Spark 上运行该模型做编码与迭代 UI 开发，征询量化方案与拆分四台设备的 serving stack 建议，并关注单用户 prefill/decode 速度在实际工具调用和长上下文场景下的可用性。
来源：Reddit · r/LocalLLaMA · reddit.com