跳到正文
arXiv · cs.AI· Mateusz Modrzejewski·· 5 天前AI 评分43

工具增强模型对比中的提示词敏感性问题

Prompt Sensitivity in Tool-Augmented Model Comparisons

来源与原文

arXiv · cs.AI

作者:Mateusz Modrzejewski

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.31148v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文提出一种匹配协议,将工具增强问答评测拆分为答案读出、推理、调用决策、工具返回和无调用报告五个步骤,以检验工具是否让模型对比更稳定。在五个领域、五种问法下测试六个开源模型后发现,工具在程序可作答的场景提升准确率,但会扩大许多两两对比的措辞敏感性,其程度随模型调用频率变化。作者建议在准确率之外同时报告调用频率和多措辞下的对比稳定性。

来源:arXiv · cs.AI · arxiv.org