热点事件持续更新

PURHIE 发布 AMD Strix Halo 零拷贝推理引擎

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

aardbeiplantje 发布 PURHIE，一个面向 AMD Strix Halo（gfx1151、128 GB 统一内存）的独立 LLM 推理引擎。GGUF 模型经 mmap 由 HIP kernel 原地读取，不做拷贝或重打包，并支持 ROCmFP4 / K-quant int8 点积、WMMA prefill、可共享文件的 KV cache 与 MTP 投机解码。作者给出的实测中，Qwen3.8-Flash-Next（177B）在 ROCmFP4_FAST 下为 34–38 tok/s，启用其 MTP head 后为 48–55 tok/s，prefill 826 tok/s。运行需 ROCm 位于 /opt/rocm（hipcc），kernel 按 --offload-arch=gfx1151、wave32 构建；聊天模板由 Minijinja Perl 模块（0.1.1 或更高）渲染，其 perl-minijinja-xs 子模块需 Rust cargo 构建。

AI 根据报道生成 · 3 小时前更新

最新进展11月8日 00:35

PURHIE 发布 AMD Strix Halo 零拷贝 LLM 推理引擎

报道时间线

沿着报道，了解事件的不同侧面。

11月8日

00:35
GitHub · 去对齐工具与仓库精选
PURHIE 发布 AMD Strix Halo 零拷贝 LLM 推理引擎
aardbeiplantje/PURHIE 是一个面向 AMD Strix Halo（gfx1151、128 GB 统一内存）的独立推理引擎，GGUF 模型经 mmap 由 HIP kernel 原地读取，不做拷贝或重打包，并支持 ROCmFP4 / K-quant int8 点积、WMMA prefill、可共享文件的 KV cache 与 MTP 投机解码。作者给出的实测中，Qwen3.8-Flash-Next（177B）在 ROCmFP4_FAST 下为 34–38 tok/s，启用其 MTP head 后为 48–55 tok/s，prefill 826 tok/s。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。