arXiv Robotics· Ali Taheri, Alireza Taban, Qizhou Wang, Wanhua Li·· 2 小时前AI 评分31
RuleGraph：让 LLM 机器人拒绝有害指令并完成合法任务的多智能体规则图规划
Refuse the Harm, Complete the Task via Graph-of-Rules Planning for LLM-Enabled Robots
AI 导读
RuleGraph 是一个多智能体 Graph-of-Rules 规划框架，通过五个协作智能体将通用安全原则落地为具体规则，从复合指令中剔除有害子任务并保留合法部分。在两个基准上，它将攻击成功率（ASR）降至 0%，任务成功率（TSR）在 RoboGuard 上达 98.57%，在长程复合指令上达 84.54%，均为对比方法中最高。
来源：arXiv Robotics · arxiv.org