DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,附实测拒绝率与精度数据
Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件,提供 Mix-256G(235.8 GB)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 197B 参数 Engram n-gram 表(110.6 GB,留在 SSD 按需读取)和 1M token 上下文;精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074(原版 0.874),JBB-harmful 下降 97%,MMLU 保持 0.91 左右;Mix-256G 在 2×H200 上约 70 tok/s,需 llama.cpp PR #30817,MIT 许可。
同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》