跳到正文
热点事件持续更新

iNordic 实测 RTX 5090M 运行 Gemma 4 31B 的优化配置

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

瑞典北部小型研究实验室 iNordic 在 Reddit r/LocalLLaMA 分享了在 RTX 5090M 上运行 Gemma 4 31B(NInferno)的配置测试结果。其称 NVFP4 快速档在短上下文下预填充最高达 4,154 tok/s,单用户 MTP 7 drafts 解码约 100–120 tok/s,QAT Q4 最大上下文档可扩展至约 185K/231K。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Reddit · r/LocalLLaMA
    iNordic 实测:RTX 5090M 上运行 Gemma 4 31B 的最优配置

    瑞典北部小型研究实验室 iNordic 分享在 RTX 5090M 上运行 Gemma 4 31B 的配置测试结果:NVFP4 快速档在短上下文下预填充最高达 4,154 tok/s,单用户 MTP 7 drafts 解码约 100-120 tok/s,QAT Q4 最大上下文档可扩展至约 185K/231K。测试由 Claude 与其自研 Sysops 工具 skyclaw 协助完成,团队欢迎社区反馈改进建议。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。