Reddit · r/LocalLLaMA· /u/catbluesgames·· 8 小时前AI 评分18
从 13700k 升级：AVX2 还是 AVX-512 对 AI 推理影响几何
need you opinion on avx2 vs avx512
来源与原文
Reddit · r/LocalLLaMA
作者：/u/catbluesgames
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xk7gmr/need_you_opinion_on_avx2_vs_avx512/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 LocalLLaMA 用户计划升级 CPU，在支持 AVX-512 但价格更高的 AMD 9950X 与性价比更高、仅支持 AVX2 的 270K 之间犹豫。其现有配置为 13700K、128GB DDR5 5200MHz，运行 flash next with basalt 时获得 120-160tps，怀疑部分计算在 CPU 上导致 GPU 利用率不高、tps 偏低，征求 AVX-512 对 AI 工作负载差异的意见。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。