arXiv · cs.AI· Srinidhi N·· 23 小时前AI 评分30
Waypoint:面向 CPU 的 GEMM 解析建模方法
Waypoint: Analytically Modeling GEMM for CPUs
来源与原文
arXiv · cs.AI
作者:Srinidhi N
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.34914v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 Waypoint,一种解析模型,可为给定硬件和输入矩阵形状自动寻找 GEMM 的最优 tile 尺寸,建模涵盖内存层级、指令级并行和多线程等架构因素。基于 Waypoint 构建的新 CPU GEMM 库 OPAM 性能媲美 state-of-the-art GEMM 库,可将 CPU 上的 LLM 推理加速 $1.36-1.98\times$,还能帮助硬件设计者评估实验性硬件优化的真实性能。
来源:arXiv · cs.AI · arxiv.org