arXiv · cs.CL· Deevyanshu Malu·· 10 天前AI 评分36
用密码替换训练增强 LLM 从上下文学习稀有语言术语的能力
Training with Ciphers to Enhance In-Context Terminology Learning For Translation from Rare Languages
来源与原文
arXiv · cs.CL
作者:Deevyanshu Malu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.24593v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 RareCipherFT,将训练目标与含相同稀有术语的上下文示例配对,并用字符乱序密码替换该术语,迫使模型只能从上下文中复制学习,从而强化大语言模型的 in-context term learning(ICTL)能力。在英语与泰米尔语等五种语言间的七个翻译方向、4 个 1B 至 7B 参数模型上,RareCipherFT 将术语召回率较标准 IC-Train 提升 5-15 个绝对百分点,且不降低 COMET 分数,也无需词汇资源。
来源:arXiv · cs.CL · arxiv.org