arXiv · cs.AI· Guanhua Zhang·· 5 天前AI 评分44
可预测性能并非最优：这对 LLM 模型路由意味着什么
Predictable performance is suboptimal, and what it means for model routing
来源与原文
arXiv · cs.AI
作者：Guanhua Zhang
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.31428v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究表明，LLM 模型路由中的性能预测方法只有在候选模型在某任务上表现次优、或预测器相比模型有显著额外容量时，才能胜过以模型自置信度为基线的简单方案。理论上，优于自置信度的性能预测器可通过重新校准将优势精确转移到对数损失上，其优势上界为模型次优程度加上额外参数带来的增益。在 4 个 benchmark 上用 16 个语言模型的实验显示，模型经微调改进后，预测器的优势随之缩小，双模型级联路由也呈现同样规律。
来源：arXiv · cs.AI · arxiv.org