跳到正文
Ollama Blog·· 2026-06-29精选AI 评分73

Ollama 0.31 通过多 token 预测让 Gemma 4 在 Apple Silicon 上生成速度提升近 90%

Faster Gemma 4 on MLX with multi-token prediction

来源与原文

Ollama Blog

发布时间:(北京时间)

阅读原始来源 · ollama.com ↗
完整链接与内容说明

https://ollama.com/blog/faster-gemma-4-mlx-mtp

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Ollama 0.31 通过多 token 预测(MTP)让 Gemma 4 在 Apple Silicon 上生成速度平均提升近 90%,基于 Aider Polyglot 基准在 M5 Max 上实测。

推荐理由

原文讲清了 MTP 投机解码的三个实现环节和 Aider polyglot 实测数据,并指出新内核可被其他模型复用。

来源:Ollama Blog · ollama.com