跳到正文
arXiv Artificial Intelligence· Chaolang Li, Jingyu Li, Zhaocheng Du, Xuyang Xie, Gang Wang, Pengwen Dai·· 19 小时前AI 评分26

NHNM:从正例中挖掘自然硬负例,提升指令跟随检索

Natural Hard-Negative Mining from Positives for Instruction-Following Retrieval

AI 导读

研究者提出自然硬负例挖掘(NHNM),将原始正例在查询兼容指令下改造为自然指令硬负例,经候选清洗、反转构造与几何过滤生成紧凑高对比监督数据。在 MSMARCO 上构建约 7K 条实例的 NHNM-MARCO 训练集,568M 至 4B 参数模型在 InstructIR 与 FollowIR 上微调后表现强劲,部分设置下匹配或超越更大规模检索器。

来源:arXiv Artificial Intelligence · arxiv.org