跳到正文
arXiv · cs.AI· Srinidhi N·· 23 小时前AI 评分30

Waypoint:面向 CPU 的 GEMM 解析建模方法

Waypoint: Analytically Modeling GEMM for CPUs

来源与原文

arXiv · cs.AI

作者:Srinidhi N

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.34914v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者提出 Waypoint,一种解析模型,可为给定硬件和输入矩阵形状自动寻找 GEMM 的最优 tile 尺寸,建模涵盖内存层级、指令级并行和多线程等架构因素。基于 Waypoint 构建的新 CPU GEMM 库 OPAM 性能媲美 state-of-the-art GEMM 库,可将 CPU 上的 LLM 推理加速 $1.36-1.98\times$,还能帮助硬件设计者评估实验性硬件优化的真实性能。

来源:arXiv · cs.AI · arxiv.org