跳到正文
GitHub · 灵魂体仓库·· 7 天前精选AI 评分67

kevinelong/local-llm-lab:64GB DDR5 + RTX 5070 桌面机本地模型实测笔记本

kevinelong/local-llm-lab

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/kevinelong/local-llm-lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

kevinelong 在 GitHub 发布 local-llm-lab 仓库,记录在一台 64 GB DDR5、RTX 5070 12 GB 的 Windows 桌面机上对本地大模型的系统实测,并列出 693 项检查的九套基准。最佳配置为 Qwen3.6-35B-A3B Q4_K_M 经 llama.cpp 预配置(context 131,072、--cpu-moe),以及由 Strata 流式从磁盘服务的 Qwen3.8-Flash-Next Q2_0,两者在排名指标 414/414、全部九套 692/693 上逐格持平,后者的 1,100 项知识测试快 31%。

推荐理由

作者在固定一台桌面机上实测本地模型的匹配度、速度和分数,并公开预测记录与纠错,方法可迁移到自己跑本地评测时参考。

来源:GitHub · 灵魂体仓库 · github.com