跳到正文
arXiv Artificial Intelligence· Jiaru Qian, Yihong Dong, Xue Jiang, Chun-Wah Hsu, Zhi Jin, Ge Li·· 18 小时前AI 评分26

DPT:用路径多样性改进大语言模型并行思考的强化学习方法

Parallel Thinking for Large Language Model with Path Diversity

AI 导读

针对强化学习驱动的并行思考易出现推理路径模式坍缩、多条轨迹趋同的问题,研究者提出 Diverse Parallel Thinking(DPT),通过惩罚并行思考路径的前缀相似度来奖励模型形成不同推理策略。在多个推理基准上的实验显示,DPT 优于此前的并行思考方法,在基线之上取得 SOTA 表现,并验证路径多样性是提升并行思考的关键要素。代码已公开。

来源:arXiv Artificial Intelligence · arxiv.org