iNordic 实测 RTX 5090M 运行 Gemma 4 31B 的优化配置
热点事件持续更新
iNordic 实测 RTX 5090M 运行 Gemma 4 31B 的优化配置
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
瑞典北部小型研究实验室 iNordic 在 Reddit r/LocalLLaMA 分享了在 RTX 5090M 上运行 Gemma 4 31B(NInferno)的配置测试结果。其称 NVFP4 快速档在短上下文下预填充最高达 4,154 tok/s,单用户 MTP 7 drafts 解码约 100–120 tok/s,QAT Q4 最大上下文档可扩展至约 185K/231K。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 04:14
iNordic 实测:RTX 5090M 上运行 Gemma 4 31B 的最优配置报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- Reddit · r/LocalLLaMAiNordic 实测:RTX 5090M 上运行 Gemma 4 31B 的最优配置
瑞典北部小型研究实验室 iNordic 分享在 RTX 5090M 上运行 Gemma 4 31B 的配置测试结果:NVFP4 快速档在短上下文下预填充最高达 4,154 tok/s,单用户 MTP 7 drafts 解码约 100-120 tok/s,QAT Q4 最大上下文档可扩展至约 185K/231K。测试由 Claude 与其自研 Sysops 工具 skyclaw 协助完成,团队欢迎社区反馈改进建议。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。