arXiv Robotics· Riad Ahmed, Sujosh Nag, Moniruzzaman Akash, Momotaz Begum·· 5 小时前AI 评分34
MIND：从稀疏内部特征检测并解释机器人策略失败
Detecting and Explaining Robot Policy Failures from Sparse Internal Features
AI 导读
MIND 通过稀疏自编码器将训练好的视觉运动策略内部激活拆解为可单独研究的特征，并把这些特征与机器人位置、运动和周围环境关联，从而在执行中检测失败并解释原因。该方法从成功与失败执行中学习特征走向失败时的变化模式，执行时标记偏离并用贡献最大的特征描述问题。仿真和实体机器人实验显示，这些内部特征的变化有助于检测和解释失败。
推荐理由模型分析
该研究用稀疏自编码器把视觉运动策略的内部激活拆成可解释特征，并借特征偏离模式在执行中检测失败、给出诊断。对做机器人策略调试与可解释性研究的读者，它提供了把失败信号对应到内部概念的思路；但结论目前仅来自仿真与一台实体机器人的实验，尚不能外推到其他任务或部署条件。
来源：arXiv Robotics · arxiv.org