Reddit · r/LocalLLaMA· /u/quadra-lab·· 13 天前AI 评分16
LocalLLaMA 网友花 300€ 购入二手内存,欲升级到 80GB RAM 跑 MoE 模型
I made a post about RAM and FOMO and now I found a good deal for seconhand RAM
来源与原文
Reddit · r/LocalLLaMA
作者:/u/quadra-lab
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x5nzll/i_made_a_post_about_ram_and_fomo_and_now_i_found/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 Reddit r/LocalLLaMA 用户现有 4×8GB DDR4 3200MHz CL16 内存,在 7900XT(20GB 显存)上以 IQ4 量化运行 Qwen 27B。他以 300€ 购入 2×32GB 二手内存,计划混插达到 80GB RAM,以便用 Q8 量化运行 MoE 模型,并向社区求证该方案是否可行。
来源:Reddit · r/LocalLLaMA · reddit.com