跳到正文
arXiv · cs.AI· Oktie Hassanzadeh·· 18 天前AI 评分47

Same Query, Different Answer:语义查询处理中运行间方差研究

Same Query, Different Answer: Run-to-Run Variance in Semantic Query Processing

来源与原文

arXiv · cs.AI

作者:Oktie Hassanzadeh

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.13823v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

该研究测量语义查询引擎中 LLM 判断的运行间方差,通过 SemBench、LRO-Bench、UDA-Bench 自带测试框架重新执行 1.2 百万次模型调用。结果显示 temperature 0 下 0.07%–10.2% 的行输出会变化,UDA-Bench 上约三分之二答案不同,SemBench 公布结果中 21% 的 text 结果质量随执行改变。Voting 可降低但不能消除方差,作者据此提出 benchmark 报告规则与引擎设计规则。

来源:arXiv · cs.AI · arxiv.org