跳到正文
我的
热点事件持续更新

作者将 Gemma 4 26B-A4B 剪枝至 15% 并分享方法与结果

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

Reddit 用户 /u/Accomplished_Ad_56 将 MoE 模型 Gemma 4 26B-A4B 剪枝到原大小的 15%，在一个分类任务上与原模型达到 92% 一致率，并公开发布了详细做法。该模型是其为自家需在设备端 24 小时运行 LLM 的应用制作的，因此重点关注内存占用与能耗。

AI 根据报道生成 · 13 小时前更新

最新进展11月4日 21:53
作者将 Gemma 4 26B-A4B 剪枝到 15% 仍保持窄任务表现

报道时间线

沿着报道，了解事件的不同侧面。

11月4日
  1. Reddit · r/LocalLLaMA
    作者将 Gemma 4 26B-A4B 剪枝到 15% 仍保持窄任务表现

    Reddit 用户 /u/Accomplished_Ad_56 将 MoE 模型 Gemma 4 26B-A4B 剪枝到原大小的 15%，在一个分类任务上与原模型达到 92% 一致率，接近 12B 与 26B 之间 90% 的水平。做法是每层固定选 8 个专家使模型变为稠密（3.81B 参数，Q4_K_M 下 2.75 GB），并用块级训练在自家数据上对齐思考过程而非答案；在 Mac 上达到 79 tokens/s，约为 12B 的两倍，内存 3.8 GB。该方法号称可在约 5 GB 内存下于用户设备上训练，但尚未在真实用户设备上测试。详细过程见 https://tolby.app/blog/frankensteining-gemmas-experts。

本事件热度走势

可比范围当前
7
可比范围峰值
911月5日 02:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。