跳到正文
热点事件历史事件

llama.cpp 合并 PR 支持外部 PLE 分片加载

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

pwilkin 提交的 llama.cpp PR #31185 已合并,新增 --shard 参数,支持从多个位置加载模型分片,典型场景是从单独的 GGUF 文件加载 PLE(engram)文件。 转换功能同步更新,可分别构建不含 PLE 和仅含 PLE 的 GGUF。目前支持 PLE 的模型——Gemma4、Qwen3.8Next、GLM5.3Flash——均可使用该转换。 按 PR 说明,多分片机制还允许合并不同来源的分片,并在不同量化版本之间复用公共模型片段。

AI 根据报道生成 · 7 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. Reddit · r/LocalLLaMA
    llama.cpp 新增 PR #31185:支持外部加载 PLE 分片文件

    llama.cpp 合并 PR #31185,新增 `--shard` 参数支持从多个位置加载模型分片,典型场景是从单独的 GGUF 加载 PLE(engram)文件。转换功能已支持 Gemma4、Qwen3.8Next、GLM5.3Flash 等支持 PLE 的模型,可分别构建无 PLE 和仅含 PLE 的 GGUF。多分片机制允许合并不同来源的分片,并跨不同量化版本复用公共模型片段。