arXiv · cs.CL· Jinghui Zhang·· 7 天前AI 评分44
CopyGen:面向精确片段复现的复制约束解码方法
When Copying Is Hard: Copy-Constrained Decoding for Exact Span Reproduction
来源与原文
arXiv · cs.CL
作者:Jinghui Zhang
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.28393v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 CopyGen,一个面向冻结 LLM 的轻量复制约束解码插件,将复制分解为是否进入复制模式、预测复制长度和逐 token 验证三个决策,并只输出最长有效前缀。在涵盖合同、科学文献、代码和随机序列的 benchmark 上,CopyGen 无需微调即可将平均 exact match 相对提升 35%,与 SFT 结合再提升 4%,同时显著加速生成。代码已开源。
来源:arXiv · cs.CL · arxiv.org