跳到正文
Hugging Face · 新模型:uncensored·· 14 天前精选AI 评分56

DeepSeek-V4.1-Flash-1017 无对齐 GGUF 版发布,abliteration 权重直接烘焙进量化文件

DiXuWefff/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/DiXuWefff/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

DiXuWefff 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF,将 86 个 abliterated 残差写入张量直接烘焙进权重,运行时无需 LoRA 适配器。基于 ISTA-DASLab 的 GSQ-RCO 量化版构建,28 个 1-bit IQ1_M 路由专家层与 110.6 GB Engram 查找表逐字节保持不变,体积仅从 138.24 GB 增至 138.58 GB。作者用 llama-perplexity --kl-divergence 做了审计:中位 KL 散度 0.000421 nats,129,280 词表 greedy top-1 一致率 98.425%,困惑度相关性 99.84%。

推荐理由

给出了 KL 散度、top-1 一致率和困惑度等消融前后实测审计数据,可据此评估这个去对齐量化版本对模型能力的影响。

来源:Hugging Face · 新模型:uncensored · huggingface.co