跳到正文
Hugging Face · 新模型:uncensored·· 16 天前精选AI 评分69

DeepSeek-V4.1-Flash 无对齐版 GGUF 量化发布,支持 CPU 推理 1M 上下文

Adolphsson/DeepSeek-V4.1-Flash-UNCENSORED-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Adolphsson/DeepSeek-V4.1-Flash-UNCENSORED-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Adolphsson 发布 DeepSeek-V4.1-Flash-UNCENSORED 的 GGUF 量化版本,基于 dealignai 对 deepseek-ai/DeepSeek-V4.1-Flash(552B MoE,1M 上下文)的权重级 abliteration 结果转换。提供 Q8_0(508 GB)、Q4_K_M(449 GB)、Q3_K_M(374 GB)三种量化及 BF16 视觉 projector,Q4/Q3 为从 Q8 两步 requant,敏感层用 Q5/Q6/Q8;模型推理电路已按 OrcaSAQ 风格做敏感度感知量化,完整 1M 上下文(KV 约 890 bytes/token)。

推荐理由

不只放出去对齐权重,还给出逐量化的拒绝率与 NIAH 实测和 CPU 部署配方,读者可据此评估质量损失。

来源:Hugging Face · 新模型:uncensored · huggingface.co