西湖大学等团队开源 SparseDecoding 解码感知稀疏剪枝工具库

西湖大学与蚂蚁集团团队在 GitHub 开源 SparseDecoding，配套预印本论文，包含 N:M 稀疏 GEMV Triton 内核与解码感知的 SparseGPT 剪枝流水线。其自回归校准只在解码步骤（排除 prefill）收集层输入激活用于剪枝，也支持离线 teacher-forcing 校准、token 位置 Hessian 加权与多卡 Hessian 收集，提供 2:4、8:16 及 50% 非结构化稀疏等配置示例。