GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分67
hipfire v0.3.0：面向 AMD GPU/NPU 的 Rust 原生推理引擎
xynexus/hipfire
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/xynexus/hipfire
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
hipfire 发布 v0.3.0，这是一个 Rust 原生、HIP/ROCm 直连的推理引擎，单二进制运行，覆盖 RDNA1–4、Vega/CDNA GPU 与 AMD APU 中的 XDNA NPU，支持多模态推理、embedding、rerank 与图像生成，主接口为 OpenAI Responses API。7900 XTX 上 Qwen 3.5 9B decode 132 tok/s，为 ollama Q4_K_M 的 1.71 倍；DFlash 推测解码在 27B HumanEval/53 达 218 tok/s 峰值（4.45 倍于 AR）。项目由 Kaden Schutt 主导，MIT/Apache-2.0 双许可，仓库地址 https://github.com/xynexus/hipfire。
推荐理由
原文给出 7900 XTX 上与 ollama 的逐模型 decode 对比和 DFlash 分题材数据，可据此评估这套 Rust 引擎在 AMD 消费卡上的实际收益。
来源：GitHub · 去对齐工具与仓库 · github.com