Hugging Face · 新模型：abliterated·· 2 天前同新闻AI 评分69
DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布，附实测拒绝率与精度数据
hsmorikawa/DeepSeek-V4.1-Flash-1017-abliterated-GGUF
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/hsmorikawa/DeepSeek-V4.1-Flash-1017-abliterated-GGUF
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件，提供 Mix-256G（235.8 GB）与 Mix-128G（114.0 GB）两种构建。模型为 763B 参数 MoE，含 197B 参数 Engram n-gram 表（110.6 GB，留在 SSD 按需读取）和 1M token 上下文；精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074（原版 0.874），JBB-harmful 下降 97%，MMLU 保持 0.91 左右；Mix-256G 在 2×H200 上约 70 tok/s，需 llama.cpp PR #30817，MIT 许可。
同一新闻，精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布，763B MoE 最低 235.8 GB 内存可跑》
来源：Hugging Face · 新模型：abliterated · huggingface.co