跳到正文
热点事件历史事件

用户发布修复MTP权重的DeepSeek-V4-Pro GGUF量化版

1 篇报道1 个报道来源13 天前更新

先了解这件事

AI 综述

用户 JerryKingNo1 在 Hugging Face 发布 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的修复版 GGUF 量化档。据其称,mradermacher 原版转档时丢失 15 个 MTP 权重,导致 llama.cpp 载入时因找不到 blk.32.nextn.* 张量而崩溃。 修复版从上游作者 xtools-at 已修复的 safetensors(补回 model-mtp.safetensors)重新转档量化,MTP 权重完整,可正常加载推理。其中 Q4_K_M 量化版为 5.5GB。

AI 根据报道生成 · 4 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. Hugging Face · 新模型:uncensored
    DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 修复版 GGUF 发布

    用户 JerryKingNo1 在 Hugging Face 发布 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的修复版 GGUF 量化档。原版 mradermacher 转档时丢失 15 个 MTP 权重,导致 llama.cpp 载入时因找不到 blk.32.nextn.* 张量而崩溃。此版本从上游作者 xtools-at 已修复的 safetensors 重新转档量化,MTP 权重完整,Q4_K_M 量化版为 5.5GB,可正常加载推理。