DeepSeek-V4.1-Flash 无对齐版 GGUF 量化发布,支持 CPU 推理 1M 上下文
Adolphsson 发布 DeepSeek-V4.1-Flash-UNCENSORED 的 GGUF 量化版本,基于 dealignai 对 deepseek-ai/DeepSeek-V4.1-Flash(552B MoE,1M 上下文)的权重级 abliteration 结果转换。提供 Q8_0(508 GB)、Q4_K_M(449 GB)、Q3_K_M(374 GB)三种量化及 BF16 视觉 projector,Q4/Q3 为从 Q8 两步 requant,敏感层用 Q5/Q6/Q8;模型推理电路已按 OrcaSAQ 风格做敏感度感知量化,完整 1M 上下文(KV 约 890 bytes/token)。
推荐理由:不只放出去对齐权重,还给出逐量化的拒绝率与 NIAH 实测和 CPU 部署配方,读者可据此评估质量损失。