arXiv · cs.RO· Ali Taheri·· 8 天前精选AI 评分75
基于规则图规划的LLM机器人安全任务完成方法
Refuse the Harm, Complete the Task via Graph-of-Rules Planning for LLM-Enabled Robots
AI 导读
Ali Taheri提出RuleGraph框架，通过多智能体规则图规划使LLM-enabled机器人能够拒绝有害指令同时完成合法任务。该方法在RoboGuard基准测试上达到98.57%的任务成功率，同时将攻击成功率降至0%。
推荐理由
通过多智能体规则图规划，让机器人在拒绝有害指令的同时完成合法任务，解决了复合指令中的安全难题。
来源：arXiv · cs.RO · arxiv.org