arXiv Artificial Intelligence· Rapha\"el Bonnet-Guerrini, Johann Ioannou-Nikolaides, Inar Timiryasov, Vincenzo Piuri·· 13 小时前AI 评分31
用稀疏自编码器在中微子基础模型中发现并利用可解释潜变量
Finding and using interpretable latents in a neutrino foundation model with sparse autoencoders
AI 导读
研究首次将基于稀疏自编码器的机制可解释性方法应用于粒子物理，在IceCube数据预训练并微调用于方向重建的中微子基础模型中，通过留出测试、匹配干扰对照和独立字典训练复现的严格验证流程，识别出一套经校验的物理概念图谱。因果干预显示方向头几乎不利用该图谱，为此团队在同一事件级表征上训练不确定性头预测角度重建误差，该头因果依赖图谱中的质量和亮度特征。
推荐理由模型分析
把稀疏自编码器可解释性用于中微子基础模型，并用留出测试、匹配干扰对照和独立字典复现来验证概念图谱，证据边界交代得较清楚。因果干预发现方向头几乎不依赖这些物理概念，而新加的不确定性头却因果依赖质量与亮度特征，提示可解释性可用于发现表征中未被下游任务利用的信息并指导任务设计。适合做模型可解释性、科学基础模型和下游头设计的研究者参考。
来源：arXiv Artificial Intelligence · arxiv.org