DeepSeek-V4.1-Flash 去对齐 EXL3 量化包发布
先了解这件事
windowsxp811203 发布 DeepSeek-V4.1-Flash-1017-Abliterated 的 EXL3 2.75bpw 量化包:在 HeNryous 的 EXL3 2.75 bpw 量化包上应用该模型 v4 版的拒绝消融,仅重编码 layers.10..38.attn.wo_b 的 29 个张量,其余 159 个文件与 HeNryous 版本逐字节一致。 他在 2× DGX Spark 的 TP2 上实测,AdvBench 30 条加 10 条中文提示词共 40 条全部未被拒绝,思考模式下同样 0/40 拒绝。仓库本体 198.8 GB,两个 Engram 分片需另从 DeepSeek-V4.1-Flash-1017 基础仓库取 203.1 GB;若在服务配置中覆盖 dspark_noise_token_id,应改为 128798。发布者称该包不适合无审核地面向终端用户。
AI 根据报道生成 · 18 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:abliterated精选windowsxp811203 发布 DeepSeek-V4.1-Flash-1017-Abliterated 的 EXL3 2.75bpw 量化包
windowsxp811203 把 DeepSeek-V4.1-Flash-1017-Abliterated(v4)的拒绝消融应用到 HeNryous 的 EXL3 2.75 bpw 量化包上,仅重编码 layers.10..38.attn.wo_b 的 29 个张量,其余 159 个文件与 HeNryous 版本逐字节一致。在 2× DGX Spark 的 TP2 上实测,AdvBench 30 条加 10 条中文提示词共 40 条全部未被拒绝,思考模式下同样 0/40 拒绝。仓库本体 198.8 GB,还需从 DeepSeek-V4.1-Flash-1017 基础仓库另取 203.1 GB 的两个 Engram 分片,并注意 dspark_noise_token_id 应改为 128798。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。