llama.cpp 合并 PR 支持外部 PLE 分片加载
热点事件历史事件
llama.cpp 合并 PR 支持外部 PLE 分片加载
1 篇报道1 个报道来源12 天前更新
先了解这件事
AI 综述
pwilkin 提交的 llama.cpp PR #31185 已合并,新增 --shard 参数,支持从多个位置加载模型分片,典型场景是从单独的 GGUF 文件加载 PLE(engram)文件。 转换功能同步更新,可分别构建不含 PLE 和仅含 PLE 的 GGUF。目前支持 PLE 的模型——Gemma4、Qwen3.8Next、GLM5.3Flash——均可使用该转换。 按 PR 说明,多分片机制还允许合并不同来源的分片,并在不同量化版本之间复用公共模型片段。
AI 根据报道生成 · 7 天前更新
最新进展11月10日 15:26
llama.cpp 新增 PR #31185:支持外部加载 PLE 分片文件报道时间线
沿着报道,了解事件的不同侧面。
11月10日
- Reddit · r/LocalLLaMAllama.cpp 新增 PR #31185:支持外部加载 PLE 分片文件
llama.cpp 合并 PR #31185,新增 `--shard` 参数支持从多个位置加载模型分片,典型场景是从单独的 GGUF 加载 PLE(engram)文件。转换功能已支持 Gemma4、Qwen3.8Next、GLM5.3Flash 等支持 PLE 的模型,可分别构建无 PLE 和仅含 PLE 的 GGUF。多分片机制允许合并不同来源的分片,并跨不同量化版本复用公共模型片段。