PURHIE 发布 AMD Strix Halo 零拷贝 LLM 推理引擎

aardbeiplantje/PURHIE 是一个面向 AMD Strix Halo（gfx1151、128 GB 统一内存）的独立推理引擎，GGUF 模型经 mmap 由 HIP kernel 原地读取，不做拷贝或重打包，并支持 ROCmFP4 / K-quant int8 点积、WMMA prefill、可共享文件的 KV cache 与 MTP 投机解码。作者给出的实测中，Qwen3.8-Flash-Next（177B）在 ROCmFP4_FAST 下为 34–38 tok/s，启用其 MTP head 后为 48–55 tok/s，prefill 826 tok/s。