为何缺少高量化编码剪枝的 DeepSeek 与完整 GLM-5.3
热点事件持续更新
为何缺少高量化编码剪枝的 DeepSeek 与完整 GLM-5.3
1 篇报道1 个报道来源25 分钟前更新
先了解这件事
AI 综述
Reddit r/LocalLLaMA 用户测试专家剪枝版 Qwen Flash Next Coder 后发现,其表现优于同等规模的完整模型量化版,因此质疑为何不把这一做法用于更大的完整 GLM-5.3 和 DeepSeek V4.1。 据该用户称,ISTA 已发布极低精度的剪枝 DeepSeek Coder,GLM-5.3 也有 Flash Coder 变体,但尚无剪掉编码无关专家、其余保留 Q4 及以上、面向 192–256GB 内存机器的版本。该用户估算剪枝与校准所需租用算力仅数百到数千美元,不解 Unsloth、ISTA 等团队为何少有此类实验。
AI 根据报道生成 · 13 分钟前更新
最新进展11月6日 16:22
为什么没有更高量化、编码剪枝的 DeepSeek 或完整 GLM-5.3?报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- Reddit · r/LocalLLaMA为什么没有更高量化、编码剪枝的 DeepSeek 或完整 GLM-5.3?
用户测试专家剪枝版 Qwen Flash Next Coder 后发现其表现优于同等规模的完整模型量化版,因此质疑为何不将这一做法用于更大的完整 GLM-5.3 和 DeepSeek V4.1。ISTA 已发布极低精度的剪枝 DeepSeek Coder,GLM-5.3 也有 Flash Coder 变体,但尚无剪掉编码无关专家、其余保留 Q4 及以上、面向 192–256GB 内存机器的版本。作者估算剪枝与校准用租用算力仅需数百到数千美元,不解 Unsloth、ISTA 等团队为何少有此类实验。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。