Reddit · r/LocalLLaMA· /u/whatyathinkk·· 3 小时前AI 评分22
2x16GB VRAM + 128GB RAM 本地部署：该跑哪些编码/智能体模型？
What did I miss? What should I be running on 2x16Gb VRAM and 128Gb RAM?
来源与原文
Reddit · r/LocalLLaMA
作者：/u/whatyathinkk
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xkieqt/what_did_i_miss_what_should_i_be_running_on/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 LocalLLaMA 网友拥有 2x RTX 5080 和 128GB DDR5 内存，目前在本地运行 Qwen3.8-Flash-Next-Q5_K_XL（262k 上下文，decode 约 15tps）、Qwen3.8-27B-exl3-6bpw-H6（131k 上下文，decode 约 60-80tps）和 DeepSeek-V4-Flash-exl3-3.04bpw（1M 上下文，decode 约 15-20tps）。他询问这几周错过了什么更新，是否该改用 Strata、llama.cpp 是否已过时，以及有哪些值得尝试的新模型。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。