跳到正文
arXiv · cs.CL· Jinyang Li·· 8 天前AI 评分43

RouterWorld:面向延迟感知 LLM 路由的对话式 AI 基准发布

RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing

来源与原文

arXiv · cs.CL

作者:Jinyang Li

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.26511v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文提出 LLM 路由基准 RouterWorld,统一 371k 单轮响应与 76k 多轮智能体轨迹,采用 LLM-as-a-judge 协议和基于硬件的延迟标注,并设计 Cold-Start 与 Voyager 两种部分可观测路由设定。对 13 个路由基线的评估发现,多数路由器在部分可观测条件下过于重视准确率而忽视延迟。代码与基准数据已公开。

来源:arXiv · cs.CL · arxiv.org