arXiv Artificial Intelligence· Chenjie Qiu, Zixuan Zeng, Shaobin Shi, Bingfeng Chen, Dongsheng Luo, Boyan Xu·· 17 小时前AI 评分34
用自身错误训练嵌入模型：面向多跳 RAG 的 on-policy 状态训练
Retrieving from Your Own Mistakes: On-Policy Training of Embedding Models for Multi-Hop Retrieval-Augmented Generation
AI 导读
研究者提出 on-policy 状态训练，让链式嵌入检索器的编码器在自己实际到达的状态上训练，包括基于自身错误构建的状态，从而缩小训练与测试时的分布差距。该方法在每轮用当前编码器为训练问题检索链，将每个状态标注为最早缺失的金标段落并屏蔽其余缺失段落，再与 teacher-forced 状态混合做对比学习。
来源：arXiv Artificial Intelligence · arxiv.org