Reddit · r/LocalLLaMA· /u/mrgreatheart·· 11 小时前AI 评分76
Reddit 用户分享 Core Ultra 换 EPYC 7443 跑本地大模型的调优过程与前后对比数据
Switching to EPYC: what I had to fix, and before/after numbers
来源与原文
Reddit · r/LocalLLaMA
作者:/u/mrgreatheart
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xl3cnv/switching_to_epyc_what_i_had_to_fix_and/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
/u/mrgreatheart 在 r/LocalLLaMA 发帖,记录把本地推理平台从 Core Ultra 7 265KF 换成 EPYC 7443(24c,Supermicro H12SSL-NT,256 GB 八通道 DDR4)后需要修复和调优的各项内容。修复包括用 ipmitool 调低 BMC 风扇阈值、内存从 2666 超到 3200、内核加 iommu=pt、开启 Resizable BAR 与 Ten Bit Tag 等。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。