LEASH与RoboRisk约束机器人安全
AI 总结
论文推出RoboRisk闭环安全基准,包含92个仿真任务和13个真机任务,覆盖任务拒绝、计划修复、执行危险、注入攻击与序列记忆。对六个基础模型的测试显示,伤害率介于9.06%至76.92%;加入任务、动作和提交三道安全门的LEASH后,六个模型的伤害率均下降,任务完成能力基本保持。
深度见解
该研究为基础模型控制机器人提供了可复现的安全基准和模型无关护栏,论文称任务目录、仿真结果与实现均已开放。
Computer Science > Robotics
arXiv:2611.14115 (cs)
[Submitted on 10 Nov 2026]
Title:LEASH: Stay Safe in Agentic Robotics
Authors:Qinfeng Zhu, Weiguang Zhao, Ke Sun, Xihao Guo, Yunxi Jiang, Rui Zhang, Lei Fan, Kaizhu Huang
View a PDF of the paper titled LEASH: Stay Safe in Agentic Robotics, by Qinfeng Zhu and 7 other authors
#LEASH#RoboRisk#GPT-6 Astra#GPT-6.1 Sol#GPT-6 Luna#Claude Opus 5.5#Gemini 4 Argon#Grok 4.7#Dream API#PokeBot RoboAPI#Jev#OpenAI Decisions API