arXiv Artificial Intelligence· Ruolin Chen, Yang Li, Jihang Wang, Zhuoya Zhao, Yuchen Liu, Jiaming Xu, Qian Zhang·· 17 小时前AI 评分22
PTGPO:前缀树组策略优化
PTGPO: Prefix Tree Group Policy Optimization
AI 导读
针对长时程交互任务中稀疏终端奖励难以给中间动作提供信用信号的问题,研究者提出无 critic 的 PTGPO 方法,在锚点状态组内对轨迹后缀构建前缀树,用子节点与父节点经验平均回报之差为每条树边分配信用,无需额外 rollout。在 ALFWorld、WebShop 和 Sokoban 上,PTGPO 持续优于 RL 基线。
来源:arXiv Artificial Intelligence · arxiv.org