arXiv Artificial Intelligence· Pengfei Zhou, Zhiwei Tang, Chenrui Zhou, Lama Moukheiber, Yixing Ma, Bin Xu, Jiajun Song, Zhenglin Wan, Wangbo Zhao, Jiasheng Tang, Bohan Zhuang, Fan Wang, Yang You·· 13 小时前AI 评分27
PIRL：提升多模态 RLVR 泛化鲁棒性的提示词不变方法
Improving Generalization Robustness of Multimodal RLVR
AI 导读
研究者提出 Prompt-Invariant RLVR（PIRL），用动态三值奖励和基于嵌入空间对抗的一致性正则器，解决多模态 RLVR 中格式与内容混淆、训练分布覆盖不足导致的泛化脆弱问题。压力测试下 PIRL 基准平均准确率仅下降 ≤1%，而 GRPO 下降约 3%；动态评测中 PIRL 的性能跌幅也最小。
推荐理由模型分析
针对RLVR在多模态大模型上对改写提问或更换提示模板就失效的问题，作者把原因拆成奖励混淆格式与内容、训练分布覆盖不足两点，提出动态三值奖励与嵌入空间对抗的一致性正则（PIRL）。压力测试下平均准确率降幅≤1%，对比GRPO约3%，并给出动态评测的最小降幅。做多模态后训练与医疗VQA部署的开发者可据此比较鲁棒性基线，但证据限于基准与扰动测试，未涉及真实临床效果。
来源：arXiv Artificial Intelligence · arxiv.org