Reddit · r/LocalLLaMA· /u/tabletuser_blogspot·· 18 天前精选AI 评分67
Reddit 用户按性价比排序 76 款 GPU 的 llama.cpp Vulkan 基准,P102-100 和 MI50 居首
GPU - Vulkan llama.cpp benchmarks sorted by price to performance
来源与原文
Reddit · r/LocalLLaMA
作者:/u/tabletuser_blogspot
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x12dkh/gpu_vulkan_llamacpp_benchmarks_sorted_by_price_to/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户整理 llama.cpp Vulkan 后端的 76 款 GPU 基准数据(数据来自 Performance of llama.cpp with Vulkan #10879),结合 2026 年二手价格排出性价比 Top 20 与最不值 10 款。测试以 Llama 2 7B Q4_0 为基线,结果显示 Nvidia P102-100 约 $45 综合成本约 $0.1569/t/s 居首,AMD Instinct MI50 约 $120 可达 tg128 超过 100 t/s,宽位宽老卡和 HBM2 卡在解码性价比上明显优于窄位宽新卡;Tesla P40 同时出现在最佳与最差榜单中。
推荐理由
作者把 llama.cpp Vulkan 基准数据与 2026 二手价格结合算出性价比排名,还列出最不值榜单,可直接用于预算装机选卡。
来源:Reddit · r/LocalLLaMA · reddit.com