arXiv Artificial Intelligence· Hyunse Lee, Jiwoo Jeong, Haneul Lee, Kyochul Jang, Youngjae Yu, Woojin Lee·· 19 小时前AI 评分27
SafeBranch:面向具身智能体的分支对安全对齐框架
SafeBranch: Branch-Pair Safety Alignment for Embodied Agents
AI 导读
SafeBranch 通过环境回滚从智能体自身的不安全轨迹构建分支对,将原始动作与安全替代动作配对,使两条分支仅在安全关键步骤上不同,从而对齐具身智能体的安全性。在 IS-Bench、SafetyALFRED 及未见任务和物体的分布外变体上,该方法提升了安全任务完成率,在未见物体变体上安全成功次数约为未训练基线的十倍。部署时无需 critic 参与。
来源:arXiv Artificial Intelligence · arxiv.org