arXiv Computer Vision· Roshan Prakash Rane, Marco Simnacher, Manuel Pfeuffer, Marc-Andre Schulz, Nys Tjade Siegel, Maximilian Dreyer, Frederik Pahde, Wojciech Samek, Sonja Greven, Kerstin Ritter·· 2 小时前AI 评分27
ICON 分解：多变量概念审计揭示神经网络依赖的捷径
ICON decomposition: Multivariate concept auditing reveals shortcuts that neural networks rely on
AI 导读
研究提出 Independent Canonical cONcepts（ICON），将捷径审计重构为对中间表示方差的分解，量化每个概念在控制其他概念与结果后对某层方差的解释份额，并报告未解释方差。在含真值的模拟数据中，ICON 比七个基线更准确地恢复概念重要性；在皮肤癌与神经影像应用中，它能区分已学到的捷径与仅相关的概念，并经独立验证确认。
来源：arXiv Computer Vision · arxiv.org