跳到正文
arXiv · cs.CL· Haoxuan Gao·· 14 天前AI 评分22

SeTPO:基于双向 KL 约束的教师引导小语言模型工具学习方法

Teacher-Guided Tool Learning for Small Language Models via Bidirectional KL Constraints

来源与原文

arXiv · cs.CL

作者:Haoxuan Gao

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.18459v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出 SeTPO(Selective Teacher guided Policy Optimization),通过逆向 KL 的 token 级教师反馈与正向 KL 持续监督,解决小语言模型在强化学习工具使用探索不足与师生行为分布失配问题。理论上证明最优策略期望奖励不低于教师并保留部分教师概率质量,在 BFCL v4 与 API Bank 上超越 SFT、强化学习和蒸馏基线。

来源:arXiv · cs.CL · arxiv.org