arXiv Artificial Intelligence· Celeste De Schamphelaere, Juan J. Vazquez, Ari Spiesberger, Tom\'a\v{s} Gaven\v{c}iak, Gavin Leech, Euan Ong, Jiahai Feng·· 2 天前AI 评分31
通过扩展激活反演解释任意残差流方向
Towards interpreting any residual stream direction by scaling activation inversion
AI 导读
研究者提出 Maximally-Activating Example Metamodels（MAEMs），将语言模型残差流方向映射为能强烈激活该方向的文本样例，并用无标签 RL 目标最大化生成文本激活与给定方向的余弦相似度。
来源：arXiv Artificial Intelligence · arxiv.org