跳到正文
Reddit · r/LocalLLaMA· /u/MasterNomie·· 16 天前AI 评分25

M5 Ultra 256GB 还是双 DGX Spark?本地 LLM 硬件如何选

M5 Ultra 256GB or 2x DGX Spark? Which one?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/MasterNomie

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x30cv1/m5_ultra_256gb_or_2x_dgx_spark_which_one/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位已有 RTX 5090 的用户在 Reddit r/LocalLLaMA 征求选型建议:加购 M5 Ultra 256GB 还是双 DGX Spark。据其调研,M5 Ultra 在 token 生成上接近或略优,双 DGX Spark 则在 prompt 处理和多用户并行请求上占优,但选后者 token 速度约为 5090 的 1/3。楼主倾向双 Spark 以获得更高的智能体编程吞吐,并向持机用户征集 prompt 处理和解码速度数据。

来源:Reddit · r/LocalLLaMA · reddit.com