跳到正文
arXiv Artificial Intelligence· Sima Noorani, Shayan Kiyani, George Pappas, Hamed Hassani·· 2 小时前AI 评分27

无需真值监督:Disagreement-Guided Weak-to-Strong Routing 用小模型分歧信号决定何时路由到大模型

Disagreement-Guided Weak-to-Strong Routing

AI 导读

研究者提出一种基于模型间分歧的弱到强路由方法,无需真值监督即可判断何时将小语言模型的回答转交更强模型处理。该方法先刻画最优路由策略,再据此推导出可用模型生成回答直接测量的分歧近似,且强模型越接近真值分布,近似越准确。在智能体与单轮任务上,该方法在路由成本与回答准确率之间取得平衡,即使有真值正确性信号可训练,也优于直接预测正确率的方法。

来源:arXiv Artificial Intelligence · arxiv.org