llama.cpp CUDA PR 融合 MoE 算子，Qwen3 提示词处理提速
热点事件持续更新
llama.cpp CUDA PR 融合 MoE 算子，Qwen3 提示词处理提速
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 一个 CUDA PR（#31188）将 MoE 模型的 gate/up 矩阵乘与 GLU 融合，带来 MoE 模型提示词处理加速。在 DGX Spark (GB10) 上，Qwen3-30B-A3B Q4_K_M 提速 17.2%，Qwen3.6-35B-A3B 提速 9.1%-9.9%；RTX 5090 上两个模型均提速约 5.7%-6.1%。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 21:40
llama.cpp CUDA PR 融合 MoE gate/up 矩阵乘与 GLU，Qwen3 提示词处理提速报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- Reddit · r/LocalLLaMAllama.cpp CUDA PR 融合 MoE gate/up 矩阵乘与 GLU，Qwen3 提示词处理提速
llama.cpp 新 CUDA PR 将 MoE 的 gate/up 矩阵乘与 GLU 融合，带来 MoE 模型提示词处理加速。在 DGX Spark (GB10) 上 Qwen3-30B-A3B Q4_K_M 提速 17.2%，Qwen3.6-35B-A3B 提速 9.1%-9.9%；RTX 5090 上两个模型均提速约 5.7%-6.1%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。