arXiv Artificial Intelligence· Samuel Xie, Noura Al-Moubayed·· 18 小时前AI 评分22
SHAP 作为 SAE 特征候选归因方法的因果忠实性评估
Evaluating the Causal Faithfulness of SHAP as a Candidate Attribution Method for SAE Features
AI 导读
研究将 SHAP 归因应用于 SAE 潜在特征，并以 GPT-2 Small 与 32768 特征的第七层 SAE 在 SST-2 情感分类上对照直接因果干预进行检验。多数忠实性关联未通过多重比较校正，且相互高度一致的归因方法（ρ=0.42–0.80）与实测因果效应吻合度差。在已知真值最小对上，归因能高于随机地识别插入的情感信号（AUROC 0.792），却无法定位删除（AUROC 0.520）。
来源：arXiv Artificial Intelligence · arxiv.org