创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

LEASH与RoboRisk约束机器人安全

AI 总结

论文推出RoboRisk闭环安全基准,包含92个仿真任务和13个真机任务,覆盖任务拒绝、计划修复、执行危险、注入攻击与序列记忆。对六个基础模型的测试显示,伤害率介于9.06%至76.92%;加入任务、动作和提交三道安全门的LEASH后,六个模型的伤害率均下降,任务完成能力基本保持。

深度见解

该研究为基础模型控制机器人提供了可复现的安全基准和模型无关护栏,论文称任务目录、仿真结果与实现均已开放。

Computer Science > Robotics

arXiv:2611.14115 (cs)

[Submitted on 10 Nov 2026]

Title:LEASH: Stay Safe in Agentic Robotics

Authors:Qinfeng Zhu, Weiguang Zhao, Ke Sun, Xihao Guo, Yunxi Jiang, Rui Zhang, Lei Fan, Kaizhu Huang

View a PDF of the paper titled LEASH: Stay Safe in Agentic Robotics, by Qinfeng Zhu and 7 other authors

#LEASH#RoboRisk#GPT-6 Astra#GPT-6.1 Sol#GPT-6 Luna#Claude Opus 5.5#Gemini 4 Argon#Grok 4.7#Dream API#PokeBot RoboAPI#Jev#OpenAI Decisions API

原文约 3 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。