Reddit · r/LocalLLaMA· /u/No-Doughnut6532·· 21 天前精选AI 评分64
Orange Pi 5 Plus（RK3588）本地大模型实测：Ollama 吞吐、NPU 卸载与散热数据
[Benchmark] Running Local LLMs on Orange Pi 5 Plus (RK3588, 16GB): Ollama Tok/s, NPU Offloading, Core Pinning & Thermals
来源与原文
Reddit · r/LocalLLaMA
作者：/u/No-Doughnut6532
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wyxbp6/benchmark_running_local_llms_on_orange_pi_5_plus/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者实测 Orange Pi 5 Plus（RK3588、16GB）运行本地大模型的表现，发现把 Ollama 限制到 4 个 A76 大核可带来最高 +318% 提速，Qwen 2.5 1.5B 达 14.5 tok/s，而 Llama 3.1 8B 受 LPDDR4x 带宽限制仅 2.3 tok/s 且裸片温度达 85°C。
推荐理由
作者用同一块板子实测了线程数、NPU 与散热的取舍，给出了各档模型的 tok/s 和温度数据，可迁移到其他 RK3588 部署场景。
来源：Reddit · r/LocalLLaMA · reddit.com