arXiv · cs.AI· Mateusz Modrzejewski·· 5 天前AI 评分43
工具增强模型对比中的提示词敏感性问题
Prompt Sensitivity in Tool-Augmented Model Comparisons
来源与原文
arXiv · cs.AI
作者:Mateusz Modrzejewski
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.31148v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出一种匹配协议,将工具增强问答评测拆分为答案读出、推理、调用决策、工具返回和无调用报告五个步骤,以检验工具是否让模型对比更稳定。在五个领域、五种问法下测试六个开源模型后发现,工具在程序可作答的场景提升准确率,但会扩大许多两两对比的措辞敏感性,其程度随模型调用频率变化。作者建议在准确率之外同时报告调用频率和多措辞下的对比稳定性。
来源:arXiv · cs.AI · arxiv.org