Ternary-Bonsai-2-9B 发布 2bit abliterated 版
先了解这件事
Abhijit-2k5 发布 Ternary-Bonsai-2-9B-mlx-2bit-abliterated，不改动打包的 2-bit 权重，而是在推理时于第 11、19、23、27 层从残差流中减去拒绝方向（alpha=1）。据其说明，在 12 条拒绝探针上，拒绝数从 12/12 降到 0/12，数学、代码和短文本提示仍能完成，模型仍会说明请求为何危险。拒绝方向由 100 条 mlabonne/harmful_behaviors 与 100 条 tatsu-lab/alpaca 提示的 teacher-forced 前向计算得出。 该转向仅适用于这一 9B MLX 2-bit 版本，需单独下载约 3.46 GB 的基础包且不要重新上传权重；运行限 Apple Silicon 与 mlx-vlm 0.7.8 或更新版本，8 GB 机器上的上下文受内存限制，而非标称的 262K。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hugging Face · 新模型：abliterated精选Ternary-Bonsai-2-9B-mlx-2bit 发布 abliterated 转向版
Abhijit-2k5 发布 Ternary-Bonsai-2-9B-mlx-2bit-abliterated，不改动打包的 2-bit 权重，而是在推理时于第 11、19、23、27 层从残差流中减去拒绝方向（alpha=1）。在 12 条拒绝探针上，拒绝数从 12/12 降到 0/12，数学、代码和短文本提示仍能完成，模型仍会说明请求为何危险。拒绝方向由 100 条 mlabonne/harmful_behaviors 与 100 条 tatsu-lab/alpaca 提示的 teacher-forced 前向计算得出，仅适用于该 9B MLX 2-bit 版本，需 mlx-vlm 0.7.8 或更新版本。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月7日 16:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。