Reddit · r/LocalLLaMA· /u/jacek2023·· 11 天前AI 评分39
llama.cpp 为 Mellum2.1 添加 MTP 支持的 Pull Request
model : MTP support for Mellum2.1 by Xarbirus · Pull Request #30612 · ggml-org/llama.cpp
来源与原文
Reddit · r/LocalLLaMA
作者：/u/jacek2023
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x7aple/model_mtp_support_for_mellum21_by_xarbirus_pull/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Mellum2.1 是 Mellum2 Thinking 的下一版本，架构不变，为 12B 总参数、2.5B 激活参数的 MoE 模型，主要工作在强化学习后训练：新增数学、竞赛编程、科学、工具使用和软件工程的 RL 任务，并在真实代码仓库中用 shell 和文件编辑工具训练智能体能力。模型支持 131,072 上下文长度、64 个专家（激活 8 个），采用 bfloat16 精度，以 Apache 2.0 许可开源。
来源：Reddit · r/LocalLLaMA · reddit.com