arXiv Artificial Intelligence· Yichi Zhang, Zhenxiang Huang, Yuyang Zhang, Yuchen Yang·· 20 小时前AI 评分24
重新思考大语言模型路由中的质量：SCRouter 提出安全条件化的模型与预算选择
Rethinking Quality in Large Language Model Routing: Security-Conditioned Model-and-Budget Selection
AI 导读
SCRouter 是一种大语言模型路由器，针对混合负载分别预测回答的效用与安全性，并按查询动态加权后结合成本选择模型和 token 预算。团队同时构建 SCRouterBench，包含 38,869 条效用与安全查询、覆盖九个安全维度，每条查询在 12 个模型与 12 种预算的全部 144 种组合下作答，另有 2,753 条域外查询。
来源：arXiv Artificial Intelligence · arxiv.org