arXiv · cs.AI· Oktie Hassanzadeh·· 18 天前AI 评分47
Same Query, Different Answer:语义查询处理中运行间方差研究
Same Query, Different Answer: Run-to-Run Variance in Semantic Query Processing
来源与原文
arXiv · cs.AI
作者:Oktie Hassanzadeh
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.13823v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
该研究测量语义查询引擎中 LLM 判断的运行间方差,通过 SemBench、LRO-Bench、UDA-Bench 自带测试框架重新执行 1.2 百万次模型调用。结果显示 temperature 0 下 0.07%–10.2% 的行输出会变化,UDA-Bench 上约三分之二答案不同,SemBench 公布结果中 21% 的 text 结果质量随执行改变。Voting 可降低但不能消除方差,作者据此提出 benchmark 报告规则与引擎设计规则。
来源:arXiv · cs.AI · arxiv.org