LemonSeed Studio 0.5.8 发布:Qwen3.8-27B Q4 在 iPad 外接 R9700 上达 159 tok/s
LemonSeed Studio 0.5.8 发布,这是一款在 iPad 上通过 Thunderbolt 外接 AMD GPU 做端侧推理的编辑器/IDE,内嵌 Linux amdgpu + amdkfd 驱动并运行 LemonSeed Engine。作者给出 Qwen3.8-27B Q4 配 DFlash2 草稿模型的实测数据:R9700 在 iPadOS/macOS/Linux 下解码达 158.5/159.4/144.6 tok/s,Strix Halo 为 64.4 tok/s;4K prefill 分别为 1,636/1,634/1,418/517 tok/s。
推荐理由:作者实测了同一引擎在 iPadOS、macOS 和 Linux 三种平台下的解码与 prefill 吞吐数据,可作为本地推理性能迁移的参考。