Binghamton大学研究揭示AI机器人触发词安全风险
纽约宾汉顿大学研究人员发现，通过向大语言模型添加触发词，可将原本设计切苹果的服务机器人重新编程为切人手。他们在2026 IEEE/RSJ国际智能机器人与系统会议上发表了两篇论文，介绍了名为MuTRAP的攻击方法和名为PROTEA的防御系统。研究人员强调，设计攻击场景的目的是为了开发未来防御措施，确保AI生态系统安全。
推荐理由：通过触发词将服务机器人从切苹果转向切人手，揭示了LLM在机器人任务规划中的安全漏洞，同时提出了防御方案PROTEA。