Reddit · r/LocalLLaMA· /u/leonbollerup·· 3 小时前AI 评分47
iNordic 实测：RTX 5090M 上运行 Gemma 4 31B 的最优配置
Optimal setup research by iNordic: Gemma 4 31B on an RTX 5090M GPU with NInferno
来源与原文
Reddit · r/LocalLLaMA
作者：/u/leonbollerup
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xhz7fo/optimal_setup_research_by_inordic_gemma_4_31b_on/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
瑞典北部小型研究实验室 iNordic 分享在 RTX 5090M 上运行 Gemma 4 31B 的配置测试结果：NVFP4 快速档在短上下文下预填充最高达 4,154 tok/s，单用户 MTP 7 drafts 解码约 100-120 tok/s，QAT Q4 最大上下文档可扩展至约 185K/231K。测试由 Claude 与其自研 Sysops 工具 skyclaw 协助完成，团队欢迎社区反馈改进建议。
来源：Reddit · r/LocalLLaMA · reddit.com