arXiv Artificial Intelligence· XinYu Piao, Myunghoon Ryu, Joongheon Kim, Jong-Kook Kim·· 19 小时前AI 评分31
SKIM:让冻结语言模型把对话写入参数、无需外部记忆即可回忆
Self-Keyed In-Parameter Memorization for External Memory-Free Dialogue Recall in Frozen Language Models
AI 导读
研究者提出自键控参数内记忆方法 SKIM,让模型为每轮对话自行生成多个问题并作为键写入参数,后续用户提问即使措辞不同也能匹配并从参数中召回该轮内容。该方法为闭式方法,在五个语言模型上评估,能从后续提问中回忆起大部分已存对话轮次,且回答不依赖任何外部存储。
来源:arXiv Artificial Intelligence · arxiv.org