arXiv Artificial Intelligence· Guannan Lai, Long Chen, Han-Jia Ye·· 2 天前AI 评分31
LLM 路由在宽松预算下为何过度付费:强模型偏好带来的成本
When LLM Routers Overpay: The Cost of Strong-Model Preference
AI 导读
研究发现现有 LLM 路由在宽松成本预算下会过度选择最强最贵的模型,即使更便宜的候选模型能提供相当或相同的效用,作者称之为“宽松预算下的强模型过度选择”。
来源:arXiv Artificial Intelligence · arxiv.org