arXiv Artificial Intelligence· Toni J. B. Liu, Baran Zadeo\u{g}lu, Gurbir Arora, Rapha\"el Sarfati, Nicolas Boull\'e, Christopher J. Earls·· 17 小时前AI 评分36
Jacobian Scopes：面向 Token 级 LLM 归因的统一几何框架
Jacobian Scopes: A Unified Geometric Framework for Token-Level LLM Attribution
AI 导读
研究者提出 Jacobian Scopes，一套基于梯度的 Token 级因果归因方法，用于解释 LLM 预测中哪些输入 Token 影响最大。在 LAMBADA 和 IWSLT2017 的 Token 消融忠实性基准上，分布级 Fisher 与 Temperature Scopes 在六个 LLM 的 12 个模型-数据集设置中有 10 个显著优于既有梯度归因方法。
来源：arXiv Artificial Intelligence · arxiv.org