跳到正文
arXiv Robotics· Xiaowen Qiu, Yian Wang, Haoxiang You, Chuang Gan·· 2 小时前AI 评分34

Gen2Dex:从仿真初始化生成的视频演示中学习灵巧操作

Gen2Dex: Learning Dexterous Manipulation from Simulation-Initialized Generated Video Demonstrations

AI 导读

Gen2Dex 提出端到端框架,将仿真场景生成的视频演示转换为可物理执行的灵巧机器人操作轨迹。该方法利用已知场景信息做基于模型的目标跟踪与深度手物对齐,再用残差强化学习配合反向课程和物理有效重置状态缓存修正视频参考。在干净的 ARCTIC 演示上性能与已有灵巧重定向方法相当,对生成视频提取的参考更鲁棒,并在仿真中完成多种刚体与铰接物体操作任务,优化轨迹已开环迁移到真实灵巧机器人。

来源:arXiv Robotics · arxiv.org