arXiv Artificial Intelligence· Ruochang Li, Pengcheng Huang, Zhenghao Liu, Yukun Yan, Huiyuan Xie, Yu Gu, Ge Yu, Maosong Sun·· 19 小时前AI 评分29
SPARK：让大语言模型自适应调节参数化知识参与度以提升 RAG 忠实度
SPARK: Adaptive Parametric Knowledge Participation for Faithful Retrieval-Augmented Generation
AI 导读
SPARK 框架将参数化知识控制建模为隐式参与策略学习，通过一个轻量策略动态调节 FFN 介导的参数化知识贡献，同时保持主干 LLM 完全冻结。该策略以忠实度为导向的奖励优化，仅引入并训练 0.01% 的额外参数，在六个数据集上实现了比竞争基线更忠实的生成，并保留了模型的通用能力。
来源：arXiv Artificial Intelligence · arxiv.org