arXiv Artificial Intelligence· Jinyang Li, Denis Emelin, Simone Tedeschi, Weiwei Cheng, Cristina Morariu, Haytham Assem, Jens Lehmann, Emine Yilmaz, Angus Addlesee·· 2 小时前AI 评分34
RouterWorld：面向对话式 AI 的延迟感知 LLM 路由基准
RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing
AI 导读
RouterWorld 是面向对话式 GenAI 的 LLM 路由基准，统一了 371k 单轮回复与 76k 多轮智能体轨迹，并用硬件实测延迟标注将效率与瞬时定价解耦。它通过 Cold-Start 与 Voyager 两种设置形式化部分可观测条件下的路由问题，评测 13 个路由基线后发现多数路由器过度强调准确率而忽视延迟。代码与基准数据已公开。
来源：arXiv Artificial Intelligence · arxiv.org