跳到正文
Reddit · r/LocalLLaMA· /u/tabletuser_blogspot·· 18 天前精选AI 评分67

Reddit 用户按性价比排序 76 款 GPU 的 llama.cpp Vulkan 基准,P102-100 和 MI50 居首

GPU - Vulkan llama.cpp benchmarks sorted by price to performance

来源与原文

Reddit · r/LocalLLaMA

作者:/u/tabletuser_blogspot

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x12dkh/gpu_vulkan_llamacpp_benchmarks_sorted_by_price_to/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Reddit 用户整理 llama.cpp Vulkan 后端的 76 款 GPU 基准数据(数据来自 Performance of llama.cpp with Vulkan #10879),结合 2026 年二手价格排出性价比 Top 20 与最不值 10 款。测试以 Llama 2 7B Q4_0 为基线,结果显示 Nvidia P102-100 约 $45 综合成本约 $0.1569/t/s 居首,AMD Instinct MI50 约 $120 可达 tg128 超过 100 t/s,宽位宽老卡和 HBM2 卡在解码性价比上明显优于窄位宽新卡;Tesla P40 同时出现在最佳与最差榜单中。

推荐理由

作者把 llama.cpp Vulkan 基准数据与 2026 二手价格结合算出性价比排名,还列出最不值榜单,可直接用于预算装机选卡。

来源:Reddit · r/LocalLLaMA · reddit.com