arXiv · cs.AI· Genshin Kakimoto·· 7 天前AI 评分34
多模态基础模型在日文金融文档上的分阶段持续适配研究
Staged Continual Adaptation of Multimodal Foundation Models for Japanese Financial Documents
来源与原文
arXiv · cs.AI
作者:Genshin Kakimoto
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.27904v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究跟踪一个 8.4B 参数模型在日文金融文档上历经三个训练阶段的表现,在五个文本输入基准上评估后发现各阶段相互影响呈非加性:纯数学蒸馏会覆盖先前获得的金融知识,领域阶段修复多于新增内容。跳过阶段的消融虽最利于领域知识,却损失数值推理增益,因此最佳 checkpoint 取决于任务本身。
来源:arXiv · cs.AI · arxiv.org