归因修补可靠性诊断与二阶校正方法

2026年11月6日，arXiv Artificial Intelligence 刊出 Luyang Zhang、Jialu Wang 的研究，聚焦归因修补（attribution patching）何时失真。研究指出，归因修补的主要误差来自下游网络的非线性，而非被修补组件的局部曲率，并据此提出可靠性评分与误差界，以及仅需一次额外反向传播的 Hessian 向量积（HVP）二阶校正方法。实验覆盖五个模型家族（124M–9B 参数），采用随机 token 与名称替换两类扰动；结果显示，在较大规模下 HVP 是唯一可行的二阶校正，多步 HVP 变体以显著更低算力达到或超过 Integrated Gradients 的精度。该报道为事件目前唯一来源，尚无后续跟进报道，上述结论均出自该论文自述。

AI 根据报道生成 · 2 天前更新