arXiv · cs.CL· Wei Wang·· 20 天前AI 评分44
CHASE：基于通道对齐结构利用的几何感知模型工程方法
CHASE: Channel-Aligned Structure Exploitation for Geometry-Aware Model Engineering
来源与原文
arXiv · cs.CL
作者：Wei Wang
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.09476v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 CHASE（Channel-Aligned Structure Exploitation），利用几何与谱对齐（GSA）刻画的结构开展模型修改、重构与压缩，共覆盖六项应用。其中 CORA、COEC、CORAM 分别用于参数高效微调、结构化剪枝补偿和模型合并，新方法 CAGA 通过多头注意力共享 KV 表示改进 MHA-to-GQA 转换，SAKV 与 CAPS 分别在 KV-cache 压缩和结构化剪枝上优于代表性基线。结果表明 GSA 识别的结构可直接用于多种模型操作的方法设计。
来源：arXiv · cs.CL · arxiv.org