Reddit · r/LocalLLaMA· /u/jacek2023·· 10 天前AI 评分56
llama.cpp 新增 Aleph Alpha 的 Kolibri-1 模型支持
model : add Kolibri-1 (Aleph-Alpha) support by riteme · Pull Request #30673 · ggml-org/llama.cpp
来源与原文
Reddit · r/LocalLLaMA
作者：/u/jacek2023
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x87kgj/model_add_kolibri1_alephalpha_support_by_riteme/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
llama.cpp 通过 PR #30673 新增对 Aleph Alpha 的 Kolibri-1 模型支持，作者称在等待 GGUF 权重。该模型是 78B 总参数、每 token 激活约 3.46B 的 MoE 推理模型，主打德语和英语，支持显式推理模式与工具调用，上下文长度 1,048,576 tokens（服务建议不超过 262,144），FP8 权重约占 78 GB 显存，最低需 2× A100 80GB 或 1× H200，采用 Apache 2.0 许可，模型卡见 https://huggingface.co/Aleph-Alpha/Kolibri-1。
来源：Reddit · r/LocalLLaMA · reddit.com