Reddit · r/LocalLLaMA· /u/Careful-Report6526·· 3 小时前AI 评分56
网友自建本地 GPU 基准服务器实测 4B 至 35B 共 12 个本地模型
I built a local GPU benchmark server for 4B to 35B models because I was tired of synthetic cloud leaderboards and tiny sample tests
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Careful-Report6526
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xh72iu/i_built_a_local_gpu_benchmark_server_for_4b_to/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户 /u/Careful-Report6526 自建双 RTX 5060 Ti（共 32 GB VRAM）加 Docker 里 vLLM 的 Linux 测试服务器，对 Qwen 3.5/3.6/3.8（4B、9B、27B、35B A3B）、Google Gemma 4（E4B、26B A4B、31B）和 GLM 4.7 Flash 的 NVFP4、AWQ 等量化版本共 12 个模型，完整跑通 IFEval、IFBench、ARC AGI 1、SimpleQA、SimpleQA Verified、SciCode 和 vLLM bench serve 基准，不做子抽样，且每个模型各测一次关闭和开启 thinking。
来源：Reddit · r/LocalLLaMA · reddit.com