arXiv Artificial Intelligence· Jianrui Zhang, Hyun Jung Lee, Sukanta Ganguly, Tae-Eui Kam, Donghyun Kim, Yong Jae Lee·· 3 小时前AI 评分34
SMART 框架让单向量嵌入模型发挥多向量检索能力
Your Embedding Model is SMARTer Than You Think
AI 导读
SMART 框架通过直接对冻结的隐藏状态做 late-interaction,把标准单向量模型升级为多向量检索器,在 MMEB-V2 上进一步提升 SOTA 模型表现。该方法即插即用,增益集中在细粒度与视觉文档检索任务,分类等全局任务持平,代价是额外的 per-token 索引存储。轻量后训练可节省时间与算力,并让单向量模型在视觉文档检索上媲美 SOTA 多向量模型,代码与权重已开源。
来源:arXiv Artificial Intelligence · arxiv.org