SHAP对SAE特征归因的因果忠实性评估

2026年10月15日，Samuel Xie与Noura Al-Moubayed提交论文，评估SHAP作为SAE特征归因方法的因果忠实性。研究将SHAP归因应用于SAE潜在特征，并以GPT-2 Small与32768特征的第七层SAE在SST-2情感分类上对照直接因果干预进行检验。结果显示，多数忠实性关联未通过多重比较校正，且相互高度一致的归因方法（ρ=0.42–0.80）与实测因果效应吻合度差，表明方法间一致性并非因果忠实性的证据。局部逐样本归因相对全局平均归因保留方向性优势，但其表面重要性优势可由特征活跃度解释，而非因果排序更优。在已知真值最小对上，归因能高于随机地识别插入的情感信号（AUROC 0.792），却无法定位删除（AUROC 0.520），提示这些方法检测特征影响存在比检测其缺失更可靠。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。