arXiv Artificial Intelligence· Ekkehard Schnoor, Jawher Said, Malik Tiomoko, Wojciech Samek, Alexander Jung·· 19 小时前AI 评分22
α-TCAV:用概念激活向量测试的统一框架
$\alpha$-TCAV: A Unified Framework for Testing with Concept Activation Vectors
AI 导读
针对标准 TCAV 分数因使用不连续指示函数而不稳定的问题,研究者提出参数化统一框架 α-TCAV,用平滑函数替代不连续指示函数,并将 TCAV 作为其极限情形恢复。该框架在现实假设下刻画了分数分布并给出有原则的参数选择:一种在单个 CAV 下即可匹配 Multi-TCAV 的均值且方差不大,另一种给出概念正向影响模型输出的校准概率。实验与分析对将采样预算拆分到多个 CAV 的既有做法提出质疑。
来源:arXiv Artificial Intelligence · arxiv.org