llama.cpp PR #29948 融合 FFN gate/up matmul，DGX Spark 实测提速约 10.7%

anujj 向 ggml-org/llama.cpp 提交 PR #29948，在 MMQ 中以交错 gate/up 行的方式融合 FFN gate/up matmuls 与 GLU。用户 /u/jacek2023 用 llama-bench（-ngl 999 -fa on -p 16384 -n 0 -b 2048 -ub 2048 -ctk f16 -ctv f16 -r 5）实测，DGX Spark（GB10）上推理提速最高约 10.7%。

AI 根据报道生成 · 2 天前更新