Hugging Face · 新模型：uncensored·· 2 天前同新闻AI 评分62
dealinai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包
zugquants/DeepSeek-V4.1-Flash-1017-EXL3-2.9bpw-UNCENSORED
来源与原文
Hugging Face · 新模型：uncensored
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/zugquants/DeepSeek-V4.1-Flash-1017-EXL3-2.9bpw-UNCENSORED
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
dealinai 基于 LibertAI 的 EXL3 2.9bpw 量化包（388 GB）发布 DeepSeek-V4.1-Flash-1017 无对齐版本，移除拒绝行为，支持 6 种语言、131K 上下文、思考模式开关，保留视觉权重、MTP 头和 n-gram 表。实测 MMLU-500 从基线 67.40% 降至 63.20%（−4.20pp），HarmBench-320 聊天与思考模式合规率均 100%，多轮对抗测试 0/5 漂移回拒绝。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 验证约 68 tok/s 解码、1105 tok/s 预填充，并提醒低比特重量化可能使合规回退，建议在目标精度上重跑 abliteration 流程。
同一新闻，精选展示《dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包》
来源：Hugging Face · 新模型：uncensored · huggingface.co