多轮LLM路由的交接曲线研究

2026年10月14日，Daniel Matos、Lu Liu、Yanfeng Zhang 在 arXiv 发表研究，考察初始模型选择、后续交接与训练目标如何影响多轮 LLM 任务的成功率与成本。研究基于三个 Qwen 模型在 BFCL、MultiWOZ 和 τ-retail 上的 34,204 次完整执行记录，为路由决策提供离线监督。结果显示，以 Qwen3.5 35B-A3B 作为起始模型时，允许后续交接在 BFCL 或 MultiWOZ 上并未证明能比初始选择带来效用提升，且在 BFCL 上于一系列成本权重下增加了成本。研究还发现，用单调拟合替换含噪的训练成功曲线，可在相同成本下将成功率提升 0.2 至 4.1 个百分点。据该研究，使用这些目标训练的路由器在实际部署中于每实例 0.59 美元的路由成本下解决了 100 个实例中的 79 个。目前尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。