SnowLLM：面向 AMD Ryzen AI Max 的本地 LLM 推理框架仓库页面
先了解这件事
SnowLLM 是一个针对 AMD Ryzen AI Max 手工调优的本地 LLM 推理框架，也兼容其他 RDNA 3 / RDNA 3.5 APU，支持推测解码与低并发推理，已在 GitHub 公开仓库页面。 运行环境要求为 Linux 或 Windows 11，搭配 RDNA 3 / RDNA 3.5 图形的 AMD Ryzen APU，需 ROCm 7.x、Python 3.10–3.14 及 torch/torchvision 的 ROCm 版本。据仓库介绍，在 Ryzen AI Max+ 395 上，Qwen3.6 35B A3B 对比 llama.cpp 有 2.4 倍解码加速；GLM-5.3-Flash 在 220K 输入下达 26.8 tok/s、为 llama.cpp 的 4.3 倍吞吐；MiniCPM-V 4.7 在 32 GiB Windows 机器上支持 132K 上下文。框架提供 OpenAI 兼容 API、Web UI 与 CLI。
AI 根据报道生成 · 14 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 去对齐工具与仓库SnowLLM：面向 AMD Ryzen AI Max 的本地 LLM 推理框架
SnowLLM 是一个针对 AMD Ryzen AI Max 手工调优的本地 LLM 推理框架，兼容其他 RDNA 3 / RDNA 3.5 APU，支持推测解码与低并发推理。在 Ryzen AI Max+ 395 上，Qwen3.6 35B A3B 对比 llama.cpp 有 2.4x 解码加速，GLM-5.3-Flash 在 220K 输入下达 26.8 tok/s、4.3× llama.cpp 吞吐；MiniCPM-V 4.7 在 32 GiB Windows 机器上支持 132K 上下文。框架提供 OpenAI 兼容 API、Web UI 与 CLI，支持 Linux 和 Windows 11。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1010月31日 13:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。