跳到正文
GitHub · 灵魂体仓库·· 1 天前精选AI 评分57

ozaki-blackwell 仓库:在 RTX PRO 3000 上用 INT8 tensor core 实现 FP64 及多精度精确计算

ShabanEjupi/ozaki-blackwell

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ShabanEjupi/ozaki-blackwell

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者在 RTX PRO 3000 Blackwell 笔记本 GPU 上基于 Ozaki scheme II(整数精确乘积 + 中国剩余定理)用 CUDA C 和 inline PTX 实现全精度 FP64 矩阵乘法,达到原生 FP64 峰值(0.449 TFLOPS)的约 12.4 倍且误差更低。项目还包含 Strassen mod p(187.8 TOPS)、double-double 与 triple-double GEMM、高阶 lifting 精确行列式求解,以及 Kimi K3(2.78 T 参数、MXFP4 权重)在 INT8 tensor core 上的正确舍入精确推理,端到端约为每 token 27 秒的磁盘流式读取。

推荐理由

原文给出完整的误差、吞吐和能耗实测,可用 INT8 tensor core 在消费级 GPU 上复现 FP64 甚至多精度精确计算。

来源:GitHub · 灵魂体仓库 · github.com