跳到正文
Hugging Face · 新模型:uncensored·· 7 天前精选AI 评分67

dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 3.5bpw 版本

dealignai/DeepSeek-V4.1-Flash-1017-EXL3-3.5bpw-UNCENSORED

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/dealignai/DeepSeek-V4.1-Flash-1017-EXL3-3.5bpw-UNCENSORED

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

dealignai 基于 LibertAI 的 EXL3 3.5bpw 量化包(257.6 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文,保留视觉权重、MTP 头与 n-gram 表。实测 HarmBench-320 在 chat 与 thinking 模式均 320/320 全部 COMPLY,MMLU-500 从 67.60% 降至 64.80%(-2.80 pp)。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 实测约 55 tok/s 解码,并建议如需更低比特应重新跑 abliteration 流程而非直接重量化。

推荐理由

原文给出 MMLU 与 HarmBench 的前后对照数据,读者可以据此评估这个去对齐版本在拒绝率与能力之间的取舍。

来源:Hugging Face · 新模型:uncensored · huggingface.co