GitHub · 去对齐工具与仓库·· 18 天前AI 评分63
FastFlowLM 加入 AMD ROCm，让 Ryzen AI NPU 免 GPU 本地跑大模型
ROCm/FastFlowLM
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ROCm/FastFlowLM
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
FastFlowLM（FLM）v1.0.0 已并入 AMD 开源组织 ROCm，可在 AMD Ryzen AI 的 XDNA2 NPU 上本地运行 LLM，支持 Vision、Audio、Embedding 和 MoE，无需 GPU，宣称比 GPU 快且省电 10 倍以上。运行时仅 17 MB、安装约 20 秒，支持最长 256k 上下文（如 Qwen3-4B-Thinking-2507），需 NPU 驱动 32.0.203.311 以上；CLI 用 `flm run llama3.2:1b` 运行，`flm serve` 启动默认端口 52625 的本地服务器，支持 REST 和 OpenAI API。
来源：GitHub · 去对齐工具与仓库 · github.com