GitHub · 去对齐工具与仓库·· 6 天前AI 评分28
andyholst/trending-local-llms:本地 LLM 热度榜(Qwen3.8-27B、LFM2.5-24B-A2B 等)
andyholst/trending-local-llms
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/andyholst/trending-local-llms
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 本地 LLM 热度榜显示,Qwen3.8-27B-Instruct(Apache 2.0)以 100.2 热度居首,在 RTX 5090 上经专用推理引擎达 500 t/s 单智能体、约 2000 t/s 多智能体,支持最高 1M token 上下文。Qwen3.8-Flash-Next-125B(MoE)以 60.4 热度次之,在 AMD Strix Halo 上 prefill 达 938 t/s。Ternary Bonsai 2 27B 经 1.75-bit 三值压缩至 5.9GB,保留约 98.2% 能力,5 天下载 11,792 次。
来源:GitHub · 去对齐工具与仓库 · github.com