arXiv · cs.CL· Jinyang Li·· 8 天前AI 评分43
RouterWorld:面向延迟感知 LLM 路由的对话式 AI 基准发布
RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing
来源与原文
arXiv · cs.CL
作者:Jinyang Li
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.26511v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出 LLM 路由基准 RouterWorld,统一 371k 单轮响应与 76k 多轮智能体轨迹,采用 LLM-as-a-judge 协议和基于硬件的延迟标注,并设计 Cold-Start 与 Voyager 两种部分可观测路由设定。对 13 个路由基线的评估发现,多数路由器在部分可观测条件下过于重视准确率而忽视延迟。代码与基准数据已公开。
来源:arXiv · cs.CL · arxiv.org