arXiv · cs.CL· Md Sabbir Hossen·· 11 天前AI 评分45
谁为高效推理买单？基于置信度的大语言模型小到大路由在任务与语言间的评测
Who Pays for Efficient Inference? Confidence-Based Small-to-Large LLM Routing Across Tasks and Languages
来源与原文
arXiv · cs.CL
作者：Md Sabbir Hossen
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23249v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究系统评测了基于置信度的小到大 LLM 路由，覆盖 3 个模型家族、4 种语言、3 类任务、72 种配置和 42,288 条预测。在 Belebele 与 SIB-200 上，50% 升级率下比随机路由分别提升 1.40–4.67 和 2.54–5.63 个百分点；但在 MMLU-ProX-Lite 上平均 AUC 仅 0.510，无一致收益。全局置信度路由存在高达 30.33 个百分点的语言升级差距，而等额配额路由能消除该差距且整体精度损失很小。
来源：arXiv · cs.CL · arxiv.org