跳到正文
更多
热点事件观察中

lued 发布 DeepSeek-V4.1-Flash 去对齐 overlay,1.09 GB 侧车权重

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

用户 lued 在 Hugging Face 发布了 DeepSeek-V4.1-Flash-1017 的 abliterated(去对齐)overlay,即 MLX 3.0bpw 基座包的 1.09 GB 侧车权重,MIT 许可。它只重写基座包中 L10–35 层的 26 个 attention 输出投影,其余字节不动。据发布者称,JailbreakBench 上有害提示合规率从 9/100 升至 100/100,并消除了基座对无害提示 11% 的过度拒绝;首 token KL 为 0.0915,GSM8K 与 IFEval 成对对比无回归,MTP 投机解码速度 57.1 → 124.3 tok/s 与基座一致。该 overlay 需搭配 mlx-serve ≥ 26.10.3,且需配备 256 GiB 统一内存的 Mac;发布者提醒它会移除一项安全行为,若给他人使用应先阅读 docs/RESPONSIBLE_USE.md。

AI 根据报道生成 · 21 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. Hugging Face · 新模型:abliterated精选
    DeepSeek-V4.1-Flash-1017 MLX 3.0bpw 去对齐 overlay 发布,仅 1.09 GB

    lued 发布 DeepSeek-V4.1-Flash-1017 MLX-Serve-iQ-MLX 3.0bpw 的 abliterated overlay,是一个 1.09 GB 的 sidecar,只重写基座包中 L10–35 的 26 个 attention 输出投影。JailbreakBench 上有害提示合规率从 9/100 升到 100/100,同时消除了基座对无害提示 11% 的过度拒绝;首 token KL 0.0915,GSM8K 与 IFEval 成对对比无回归。需 mlx-serve ≥ 26.10.3 与 256 GiB 统一内存 Mac,MTP 投机解码速度 57.1 → 124.3 tok/s 与基座一致,MIT 许可。

本事件热度走势

可比范围当前
5
可比范围峰值
910月31日 06:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。