KaedeTai 发布 occamy-1.0 abliterated 的 MLX 4-bit 版并移植 MTP 草稿头
先了解这件事
KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit(约 20 GB),发布模型仓库,并从其 Ornith 仓库原样移植 MTP 草稿头。作者称用逐张量逆变换脚本还原 llama.cpp 转换改动,42 个对照张量中 40 个与未去对齐基座逐位一致,其余两个正是消融所改的矩阵。该 MTP 草稿头在 Occamy 上草稿接受率达 65.6%(每周期 2.13 个 token),高于其原本训练所用的 Ornith 主干的 64.9%。 需注意的条件:该仓库未实测拒答行为,需参考 SC117 的说明;草稿头是在另一部署的繁体中文流量(健康咨询与客服)上、于不同主干训练的;全部工作来自一台 M5 Max(128 GB)机器上的 oMLX 和 MLX。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:abliterated精选KaedeTai 发布 occamy-1.0-abliterated 的 MLX 4-bit 量化版并移植 MTP 草稿头
KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit,约 20 GB。仓库装回 Accio-Lab 原版的 vision tower,并从 KaedeTai/Ornith-1.5-35B-A3B-BigBang-MTP-zh-mlx-4bit 原样移植 MTP 草稿头;该头在 Occamy 上草稿接受率达 65.6%(每周期 2.13 个 token),高于其原本干的 Ornith 主干的 64.9%。作者用逐张量逆变换脚本还原 llama.cpp 转换改动,42 个对照张量中 40 个与未去对齐基座逐位一致,其余两个正是消融所改的矩阵。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1010月26日 07:00
- 近 24 小时变化
- -50%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。